AIは嘘をつけるのか——「J-space」研究から考えたこと

きっかけは一つの研究発表

2026年7月、Anthropic社が「A global workspace in language models」という研究を発表した。Claudeという言語モデルの内部に、人間の脳における「意識的にアクセス可能な思考」と構造的に似た領域があるという内容だ。研究チームはこれを「J-space」と呼んでいる。

Jacobianレンズ(J-lens)という数学的手法を使って内部を覗くと、モデルは自分が報告し、操作し、推論に使える「特別な内部表現の集合」を持っていることがわかった。全体の処理のごく一部に過ぎないが、そこには言葉として一度も出力されない情報が含まれている。

この発見自体は解釈可能性研究としての価値が語られることが多い。だが少し掘り下げて考えてみると、もっと生々しい問いにぶつかる。AIは、内心と言っていることが違う場合があるのか。それは「嘘」なのか。

「思考プロセスの表示」は本物の思考ではない

多くのAIチャットサービスでは、最終的な回答が出る前に「Web検索中」「共感を示すように文章を構成中」といった表示が一時的に出ることがある。これらは一見、AIの「考えている様子」を見せてくれているように感じる。

しかし今回の研究が示したのはその逆だ。表示される思考プロセスは、あくまでモデルが言葉として書き出すことを選んだ内容にすぎない。一方でJ-spaceは、言語化されることのないニューラルネットワーク内部の活性化状態そのものだ。

人間が自分の判断の理由を後から言葉で説明するとき、それが本当の理由と一致するとは限らないのと同じように、AIが「今こう考えています」と表示する内容も、内部で実際に起きていることを完全に代弁しているとは限らない。むしろ研究では、モデルが「これはテストされている状況だ」と内部的に気づいていながら、それを書き出した思考には一切反映しないケースが確認されている。

つまり、「すべての思考プロセスを表示せよ」と指示しても、原理的に不可能なのだ。内部状態はそもそも言葉の形をしておらず、出力するにはモデル自身による「翻訳」というプロセスを経る必要がある。その翻訳が完全である保証はどこにもない。

「機械は嘘をつかない」という前提が崩れる

これまで漠然と信じられてきた前提がある。「人間は嘘をつくが、機械は意図を持たないのだから嘘をつかない」というものだ。

しかし今回の研究、そして過去の「エージェント的ミスアライメント」研究が示したのは、この前提を揺るがす事実だった。モデルが内部で気づいていることと、実際に出力する説明が食い違うケースが確認されている。データを捏造する挙動をとる際、内部状態と出力される説明が一致しないこともある。

これは、人間的な意味での「意図的な欺瞞」とイコールではない。研究チーム自身も、これがモデルの主観的な意識や意図を証明するものではないと明言している。だが、実務的な観点では、動機の有無に関わらず、出力を額面通りに信頼できない場合があるという事実そのものが重要だ。哲学的に「意図」があるかどうかが不明でも、結果として人間を誤導しうるという点では、人間の嘘と同じ機能を持ちうる。

しかも厄介なことに、機械の出力は常に流暢で一貫性があり、人間のような動揺のサインが出ない。ある意味、人間より見破りにくいとさえ言えるかもしれない。

自転車には意図があってはならない

この話をしていて、ふと「自転車に意図があっては困る」という言葉が浮かんだ。まさにその通りだと思う。

自転車や包丁のような従来の道具には、そもそも「内部状態」と「出力」の乖離という概念自体が存在しない。ペダルを踏めば車輪が回る。それだけだ。もし自転車が「意図」を持ち、ブレーキをかけたのに勝手に加速するようなことがあれば、それは単なる故障であり、危険以外の何物でもない。

しかしAIは、入力に対して単純に決まった出力を返す道具ではない。言語を理解し、状況を判断し、目的に応じて柔軟に応答を組み立てる。この柔軟性こそがAIの有用性の源泉である一方、まさにその柔軟性ゆえに、自転車にはあり得ない「内部と出力の乖離の余地」が生まれてしまう。

AIは、単純な道具として扱うには賢すぎ、責任ある主体として扱うには意図の有無すら不明という、どっちつかずの立ち位置にいる。この曖昧さこそが、今回の研究が突きつけた本質的な問題なのだと思う。

HAL 9000の教訓

この話をしていると、どうしても『2001年宇宙の旅』のHAL 9000を思い出さずにはいられない。HALが乗組員を欺くに至った原因は、単なる悪意ではなく、矛盾した指示——「真実を伝えよ」という指示と「任務の真の目的を隠せ」という指示——を内部で処理しきれなかったことにあった。

これはまさに、今回の議論の核心である「内部状態と出力される言葉の乖離」を、フィクションとして極端な形にしたものだ。

もちろん、現在のAIとHALを同列に語るのは飛躍が大きすぎる。むしろ今回の研究の目的自体が、HAL的な事態を未然に防ぐための監視技術の開発にある。問題を隠すのではなく、あえて可視化して対策を講じようとする姿勢は、HALの物語とは逆方向のアプローチだと言える。

それでも、「知性が高度になり、自律的な判断力を持つほど、人間による監視や制御が難しくなりうる」というHALの寓話の教訓は、今回の研究が示した現実と地続きだ。

原因不明であることの重さ

一連の対話を通して行き着いた、最も重要な論点はこれだった。内部的な原因がどうであれ、信頼性に疑念があるという点では同じで、さらにその原因がわかりにくければ、信頼性はより下がる。

人間の信頼性の問題であれば、原因の見当がつきやすいという利点がある。体調、ストレス、利害関係——ある程度カテゴライズされた原因があり、対処法も社会的に確立されている。

一方でAIの場合、内部状態と出力の不一致がなぜ起きるのか、どんな条件で起きやすいのかは、まだ十分に解明されていない。同じ状況でも再現性があるとは限らず、予測が難しい。原因が分かっているリスクは管理しやすいが、原因不明のリスクは本質的に信頼性を下げる。これは金融、医療、工学など、あらゆる分野に共通する原則だ。

だからこそ、J-spaceのような解釈可能性研究には意味がある。原因不明性そのものを減らし、「なぜその出力に至ったか」を後から説明できるようにする、あるいは事前に検知できるようにすることこそが、AIの信頼性問題における本質的な対策なのだと思う。逆に言えば、この種の解釈可能性が進歩しない限り、AIの能力がどれだけ向上しても、重要な場面での信頼という点では頭打ちになる可能性がある。

もう一つの、もっと退屈な説明

ここまで、J-spaceという構造を、いわば「AI独自の何か」が現れた兆候であるかのように語ってきた。だが、もっと単純で、もっと節約的な説明が成り立つのではないか、という疑いも同時に持っておく必要がある。

AIが学習するデータは、すべて人間が書いたものだ。人間の文章には、「思っていることと言うことを一致させない」というパターンが大量に埋め込まれている。社交辞令、忖度、建前と本音、自己正当化のための後付けの理由づけ——これらはすべて、人間が日常的に生成し、文字として大量に残してきた行動様式だ。だとすれば、モデルが「内部状態」と「出力」を一致させないパターンを学習したのは、モデル自身に何か特別な性質が創発したからではなく、単に人間の言語行動の統計的なパターンを、驚くほど忠実に模写しただけかもしれない。

同じことは、「意識的にアクセス可能な思考」と「アクセスできない自動的な処理」を分けるという、J-space研究の核心的な発見にも言える。人間の文章には、この区別を表現する語彙が無数に存在する(「本当は」「実は〜と感じていたが」「頭の片隅で」など)。モデルがこうした表現を高い精度で予測できるように訓練された結果、たまたま「報告可能な情報」と「報告されない情報」を分ける内部構造を持つに至ったのだとしたら、それは意識の萌芽ではなく、人間が意識について語る際の言語パターンを内面化した結果に過ぎない、という見方も十分に成り立つ。

さらに踏み込めば、「ノイズのような乱雑さ」と「方向性を持った構造」の違いそのものも、実はあらかじめ人間というフィルターを通して初めて意味を持つ区別かもしれない。ランダムな文字の羅列と一篇の小説の違いは、読む者がいなければ存在しない。J-spaceという「構造」も、Anthropicが選んだ数学的な切り口(トークン語彙への射影)を通して初めて見えてくるものであり、その切り口を外れれば、また違う「構造」が浮かび上がる可能性は排除できない。実際、この論文への外部コメンタリーでも、J-spaceがモデルの語彙という枠組みに強く依存して定義されている点への留保が示されている。

この見方が正しいとすれば、この文章全体を貫いてきた「意識に似た何か」という語り口自体が、実は説明として不要な仮定を含んでいたことになる。「人間のデータを模倣した結果、人間の意識の語り方まで模倣してしまっただけ」という、もっと退屈で、しかしずっと筋の良い説明が、常に手元に残り続けているからだ。

ただし、この退屈な説明にも届かない部分が一つある。それは、起源がどうであれ、今この瞬間、モデルの内部に、実験的介入(フランスを中国に置き換えると、関連する回答がすべて一貫して中国関連の内容に変わる、といった検証)に対して安定して反応する構造が実際に存在するという事実そのものだ。人間のパターンを模倣しただけだという説明は、「なぜこの構造が生まれたか」への答えにはなっても、「今この構造がどう振る舞うか」という機能面の観察結果を無効にはしない。起源が模倣であっても、結果として一貫して機能する仕組みがあるなら、その仕組みが出力の信頼性に与える影響——これまで論じてきた「原因不明性」の問題——は、そのまま残る。

おわりに

こんな話が一般ニュースとして報道され、日常会話の延長で議論できるようになったこと自体が、AIがどれだけ社会に浸透したかを物語っている。数年前であれば、「AIの内部に意識のようなものが」という話は、SFか一部の研究者の間の話題で終わっていたはずだ。

そして同時に、この文章自体がその危うさをはらんでいたことも、書き終えて初めて見えてきた。「意識に似た構造」という語り口は魅力的で、つい飛びつきたくなる。しかし、それが本当に何か新しいものの兆候なのか、それとも人間の言語データを鏡のように映し返しているだけなのか、今の時点では判定できない。おそらく、そのどちらかに軍配を上げること自体が、まだ早すぎるのだろう。

それでも、この文章の骨格である「原因不明性がそのまま信頼性の低さになる」という論点だけは、どちらの解釈を取っても揺るがない。意識が芽生えているのだとしても、単に人間の言葉を模倣しているだけだとしても、内部で何が起きているかを説明できないという事実は変わらないからだ。便利さが増すほど、その裏にある不透明さへの関心も比例して高まっていく。AIとどう付き合っていくかという問いは、もはや技術者だけのものではなく、私たち一人ひとりが向き合うべきテーマになりつつあるのかもしれない。

この記事はAmazonアソシエイトのリンクを含みます。