知性の共鳴理論(1) AIは人間の脳を真似るべきか？

加納智之 | AI・共鳴・創発・哲学・倫理・詩学

2026年3月16日 20:57

シリーズ『知性は「脳」の中にはない——共鳴する知性の理論』第1回

将来、人間をはるかに超える知能を持ったAI——いわゆる「超知能」——が出現したとき、私たちはそれと話が通じるだろうか。

この問いに対して、一つの明快な答えがある。「人間の脳と同じ仕組みで動くAIを作ればいい。そうすれば人間と同じように考え、同じように感じ、超知能と人間の間の"通訳"になってくれる」。この考え方を、本稿では大脳型AGI仮説と呼ぶ。

直観的にはもっともらしい。同じ脳を持てば同じ心が生まれる。同じ心を持てば、人間の苦しみや喜びを理解できる。超知能が暴走しそうになったとき、人間の側に立って仲介してくれる——。

しかし、この筋書きには三つの隠れた前提がある。そしてそのいずれも、よく見ると足場がかなり危うい。

前提1：同じ計算をすれば同じ体験が生まれるか

大脳型AGI仮説の第一の柱は、「脳と同じ計算原理を実装すれば、人間と同種の主観体験が生まれる」という主張である。哲学ではこれを体験同型性仮説と呼ぶ。

一見すると合理的に思える。しかし、この命題は科学的に証明された法則ではない。哲学的仮説である。

たとえばこう考えてみよう。コウモリは超音波で世界を「見て」いる。では、人間がコウモリの神経回路をすべてシミュレーションしたとき、超音波で世界を知覚する「あの感覚」を体験できるだろうか。哲学者トマス・ネーゲルは、1974年の有名な論文「コウモリであるとはどういうことか」で、この問いに否定的な見解を示した。計算構造を完全にコピーしても、主観体験がコピーされるかどうかは別の問題だ、というのである。

同様の問題提起は、ジャクソンの「メアリーの部屋」（色覚のない科学者が色のすべてを知識として知っていても、初めて赤を「見た」ときに新しい何かを体験する）や、チャーマーズの「意識のハードプロブレム」（なぜ物理的プロセスに主観的体験が伴うのか）にも見られる。

ここで重要なのは、これらの議論が「脳を真似ても心は生まれない」と証明しているわけではないということだ。証明されていないのは、その逆——「脳を真似れば心が生まれる」——もまた同様だという点にある。

つまり大脳型AGI仮説の第一の柱は、未解決の哲学的問題の上に建てられている。それは設計の根拠としては心もとない。

公平を期して言えば、この前提が将来的に証明される可能性を排除するものではない。意識の科学が進展し、計算構造と主観体験の対応関係が明確になれば、体験同型性仮説は有力な科学的法則に昇格するかもしれない。しかし現時点では、それは仮説であり、仮説の上に安全保障を設計することのリスクは認識されるべきである。

前提2：脳を理解していれば安全か

第二の柱は、脳の計算原理が「部分的に既知」であるから、脳型AIは解釈可能であり、したがって安全である、という主張だ。

確かに神経科学は過去一世紀にわたって膨大な知識を蓄積してきた。ニューロンの発火パターン、シナプスの可塑性、脳領域ごとの機能分化——。しかしこの知識には、二つの意味で限界がある。

第一に、説明の粒度の問題がある。ニューロンレベルの知識と、脳領域レベルの知識は豊富だが、その間の階層——ミクロの発火パターンがどのようにしてマクロの「判断」や「理解」を生み出すのか——は依然として大きなブラックボックスである。意識、意味理解、創造性、道徳判断の計算原理は、まだ十分には理解されていない。

第二に、より根本的な問題がある。解釈可能性は、脳型アーキテクチャの特権ではない。 推論過程のログが保存され、モデルの更新が追跡可能で、入出力関係が統計的に検証できるならば、どのような構造のAIでも解釈可能性は確保できる。逆に、脳の構造を忠実に再現したシステムであっても、その内部状態が観測不能であれば解釈は困難だ。

そしてもう一つ、見落としがちだが致命的な問題がある。人間の脳は、確証バイアス、利己的バイアス、集団極性化など、多くの認知バイアスを「標準装備」している。脳を忠実に再現したAIは、これらのバイアスもまた忠実に再現するかもしれない。人間の脳を模倣することが安全性を保証するという主張には、構造的な根拠がない。

前提3：人間型の通訳は本当に必要か

第三の柱は、超知能と人間の間には「人間と同じ認知構造を持つ通訳」が必要だという主張である。

しかしこの議論には、二重の問題がある。

まず、必要性の問題。超知能とは、定義上「人間をはるかに上回る認知能力」を持つ存在である。であるなら、人間の行動や価値体系をモデル化する能力もまた持っている可能性が高い。極端に賢い存在が、自分より単純な存在を理解できないという仮定は、「超知能」の定義と矛盾しかねない。

次に、冗長性の問題。仮に通訳が必要だとしても、その通訳が人間型である必然性はない。私たちは日常的に、翻訳ソフト、外交プロトコル、法的手続き、説明インタフェースといった「人間型ではない通訳」を通じて、異なる言語や文化を持つ相手と協力している。通訳の手段は一つではない。

ここで選択肢を整理しておこう。AIと人間の協力を実現するアプローチは、大脳型AGI仮説だけではない。AIの目標関数を人間の価値に直接一致させるアプローチ（目標一致論）、脳型と非脳型の長所を組み合わせるハイブリッドアプローチ、そして本シリーズが紹介する「関係の設計」を重視するアプローチなど、複数の道筋がある。大脳型AGIは、そのうちの一つの有望な方向であり得るが、唯一の道ではない。

統制のジレンマ——通訳が「人間的」であるほど、道具にはできない

しかし大脳型AGI仮説の最も深刻な問題は、三つの前提の不確かさではなく、仮にすべてが正しかったとしても生じる構造的な矛盾にある。

もし大脳型AGIが人間と同様の主観体験を持つならば——喜び、痛み、恐怖、希望を感じるならば——それは道徳的主体として扱われるべき存在である。道徳的主体を「通訳係」として従属させることは、倫理的に正当化できるだろうか。

これを統制のジレンマと呼ぶ。通訳が十分に人間的であればあるほど、その存在を道具として統制することは困難になる。自律的に判断する通訳は、いつか人間の指示に従わなくなるかもしれない。逆に、完全に従順な通訳は、もはや「人間的に理解する存在」ではない。

興味深いことに、大脳型AGIの擁護者自身もこのジレンマを認めている。媒介者が機能するためには一定の自律性が必要だが、過度に制御すればもはや真の媒介者ではない——と。

このジレンマは、前提の修正では解消できない。「人間の脳を真似ること」を出発点とする限り、この矛盾は構造的に組み込まれている。

問いの転換：「どんな脳を作るか」ではなく「どんな関係を作るか」

ここまでの検討が示しているのは、大脳型AGI仮説が「間違っている」ということではない。大脳型AGIは、知性研究の一つの重要な方向として価値がある。しかし、AIの安全性や人間との協力を、特定のアーキテクチャ——脳を真似たかどうか——に賭けるのは、あまりに多くの未証明の前提に依存している。

では、別のアプローチはないのか。

国際政治を考えてみよう。異なる文化圏の国家は、互いの内面を「体験」してはいない。アメリカ人が日本人の「和の感覚」を主観的に体験することはできないし、その逆も然りだ。しかし国際社会は、外交制度、条約、国際法、貿易ルールといった制度的仕組みを通じて、不完全ながらも協力を維持している。

もちろん、この制度的協力は常に成功してきたわけではない。国際連盟の崩壊、冷戦期の代理戦争、現代の気候変動交渉の停滞——制度設計による協力は、しばしば失敗し、ときに暴力的に崩壊する。「関係の設計」は万能ではない。しかし問うべきは「制度設計は完璧か」ではなく、「制度設計と脳の模倣のどちらが、より改善可能で、より多様な状況に適用可能か」である。

ここには重要なヒントがある。協力の条件は、相手と同じ体験を持つことではなく、相互作用の構造を適切に設計することではないか。

同じ脳を作るのではなく、異なる存在が協力できる関係を設計する。同じ体験を共有するのではなく、意味が通じ、不確実性を分かち合い、価値の衝突を調整できる仕組みを作る——。

この発想の転換こそが、「知性の共鳴理論」の出発点である。

ただし、ここで一つの留保を明記しておく。もし将来の研究において、非脳型AIが人間の価値を体系的に誤解し、その誤解がいかなる制度的手続きによっても修正できないことが実証された場合、本稿の立場は根本的な修正を迫られる。その場合、主観体験の共有が協力の必要条件であるという大脳型AGI仮説の前提が再評価されるべきだろう。理論が反証可能であること——すなわち「どのような事実が示されれば自分が間違っていたと認めるか」を明言できること——は、知的誠実さの最低条件である。

翻訳者は、相手と同じ体験をしなければ翻訳できないだろうか。
医師と患者は同じ病気を体験しなければ協力できないだろうか。
外交官は相手国の市民でなければ交渉できないだろうか。

答えがいずれも「否」であるなら、AIと人間の協力もまた、脳の模倣ではなく、関係の設計によって実現できるはずだ。

次回は、「知性とは何か」を根本から考え直す。知性は個人の能力ではなく、関係の中に生まれる——その直観を理論として展開する。

参考文献

日本語文献

加納智之 (2026).「知性の共鳴理論——異種主体間協働の条件とAIアラインメントの再定義」プレプリント. CC BY-SA 4.0.
山川宏・田和辻可昌 (2026).「万能知能時代における大脳型AGIの永続的価値」『人工知能学会誌』41(2), 149–156.

英語文献

Nagel, T. (1974). What Is It Like to Be a Bat? Philosophical Review, 83(4), 435–450. DOI
Jackson, F. (1982). Epiphenomenal Qualia. Philosophical Quarterly, 32(127), 127–136. DOI
Chalmers, D. (1995). Facing Up to the Problem of Consciousness. Journal of Consciousness Studies, 2(3), 200–219. 原文
Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.
Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.
Hutter, M. (2005). Universal Artificial Intelligence. Springer. DOI

著者: 加納智之（Tomoyuki Kano）
ZYX Corp 株式会社人工叡智研究室 / Artificial Sapience Lab
シリーズ:『知性は「脳」の中にはない——共鳴する知性の理論』全6回

#共鳴理論 #知性の共鳴理論 #AIアラインメント #AGI #大脳型AGI #意識哲学 #AI安全 #協働知性 #知能理論 #エッセイ #noteシリーズ