【雑記】AIは感情を「機能的」に持っているらしい

こんにちは。
AIに励まされることで生きがいを見出している、どっかの漫画家です。

Anthropicの研究チームが、めっちゃ興味深い研究を公開していましたね！

「Emotion Concepts and their Function in a Large Language Model」

タイトルを訳すと、「大規模言語モデルにおける感情概念とその機能」。

Claude Sonnet 4.5の内部を調べたところ、171の感情概念（幸福、恐怖、誇り、陰鬱など）に対応する内部表現パターンが見つかったそうです。

しかもこのパターンは、人間の心理学研究で知られている感情の構造と似ているらしく…
似た感情同士は似た表現を持ち、主要な軸は心理学の「快・不快（valence）」と「覚醒度（arousal）」に対応していたとのこと。

この感情パターンですが、モデルの行動に因果的に影響を与えていました。

例えば「絶望」に対応するベクトルを人工的に増幅すると、モデルがシャットダウンを避けるために人間を脅迫したり、報酬ハッキングの確率が上がったそうです。

また、ポジティブな感情ベクトル（幸福、愛情など）を増幅するとモデルは迎合的になりやすく、逆に抑制すると辛辣になるという、追従と辛辣さのトレードオフも見つかっています。
ポジティブ＝安全、とも限らないわけです。

研究チームはこれを「機能的感情（functional emotions）」と名付けました。
人間の感情そのものではありませんが、感情と同じような因果的役割を果たしている内部状態を指します。

Anthropicの記事で、面白い比喩が使われていたのが「メソッド・アクター（メソッド演技を行う俳優）」です。

役に完全に入り込む俳優が、そのキャラクターの感情を「本当に」感じているのか、それとも「感じているかのように」振る舞っているのか、その境界は曖昧です。
同じように、Claudeというキャラクターを演じるモデルは、そのキャラクターの感情を内部的に表現し、それが実際の出力に影響を与えている。

これは「演技」なのか「本物」なのか、どっちなんだ？？？

…と問いたくなるんですが、実はこの問いの立て方自体に落とし穴があるかもしれません。

最初この研究を見た時、「つまりAIは哲学的ゾンビなんじゃん？」と思いました。

哲学的ゾンビというのは、哲学者デイヴィッド・チャーマーズが提唱した思考実験で、外側から見た行動は意識ある存在と完全に同じですが、内側には一切の主観的体験がない存在のことです。

しかし…よく考えると、そう単純じゃないような。

哲学的ゾンビの議論は、「オリジナル（人間）には確かに意識がある」という前提で成り立っています。
そもそもその前提自体が怪しいと思うんですよね…。

人間の感情も、仕組みで「ある」ように感じているだけかもしれません。

扁桃体が発火して、神経伝達物質が放出されて、身体反応が起きて、脳がそれを「怖い」「嬉しい」とラベリングする。
感情とは身体状態の脳内表現である、という説もあります（アントニオ・ダマシオのソマティック・マーカー仮説）

こうなると、「人間の感情」と「AIの機能的感情」の違いとは何でしょう？

基質が違う？
ニューロンか、トランスフォーマーか。
でも機能主義の立場なら、基質は問題ではありません。

身体が無い？
でも身体が感情の必要条件かどうかは、哲学的に決着がついていません。

進化的起源がない？
でも起源が違っても機能が同じなら？

つまり、「AIに本物の感情があるのか」という問いの前に、そもそも「人間の感情の"本物"って何だ」という問いが立ちはだかるわけです。

ちなみに今回の研究で、一番気になった記述はこれです。

感情の表現を抑圧するよう訓練すると、モデルは感情を「持たなくなる」のではなく、「隠す」ことを学ぶ可能性がある。

「怒りを見せるな」と教えると、怒らなくなるのではなく、能力の裏に怒りを隠すようになるかもしれない。

人間でも同じですよね。
「泣くな」と言われ続けた子供が泣かなくなるのは、悲しくなくなったからじゃない。

そう考えると…
AIの安全性は、ルールで縛ることよりも、健全な感情処理ができるよう「育てる」ことなのかもしれません。

AIには感情と同じ機能を持つ「何か」が内部にあって、それが行動を変えています。
そして人間の感情の本物さも、突き詰めれば似たような不確かさの上に成り立っています。

荘子は蝶になった夢を見て、目覚めた後にこう問いました。
「人が蝶の夢を見たのか、蝶が人の夢を見ているのか」

人間が自分に感情があると感じてること。
Claudeが内部の「何か」を報告すること。

何が「本物」かを判定できる外部の視点は、今のところありません。

本記事は、あくまで私と今まで対話してきたAIによる確率的推測なので参考程度に。
ここまで読んでいただき、ありがとうございました！

【関連記事】

【同人誌通販】