AIは人間の知性を超えない〜「関ヶ原の合戦」という究極の思考実験
生成AIは人間の知性を超えることはない。
従って、シンギュラリティ（AIが人間の知性を超える転換点）は来ない。AGI（どのような環境でも自立的に対応できる汎用人工知能）はできない。
ご隠居ホモ・サピエンスである私は、そう確信している。
もちろん、AGIの定義のハードルを低くすれば何かはできるだろうが、それは「なんちゃってAGI」に過ぎない。
第12段では、自動運転を引き合いに「AIによって人間の知性まで外部化することの危うさ」を紹介した。
今回はその第2弾として、「それでは、AIが絶対に立ち入れない人間の知性とは何か？」という話をしたい。
ご隠居は、人間の知性は「判断」や「決断」に表れると考える。
つまり「人間らしい判断や決断」ができて初めて知性とよぶことができる。
◇
人間が現実の荒波を乗り越えていく上では、大きな判断や決断を行い、それに基づいて行動することが不可欠である。その判断や決断はどのように行われるのか？
そこで、人間が究極の選択を迫られた例として、「関ヶ原の合戦」を例に考えてみたい。
徳川家康の東軍につくか、石田三成の西軍につくか？
この究極の選択を多くの戦国大名が強いられた。
この選択をAIに委ねたら、果たしてAIは何を基準に判断するだろうか？
東軍と西軍の人数や武器の数による攻撃力か？
自分が味方した時の領国の増加など、どちらのメリットが大きいかという損得か？
どちらに大義があり、どちらが今後よい社会を築くのかという期待値か？
こうしたことが基準になると予測される。
しかし、ご隠居はどんなにこれらの状況を詳細に入力しても、AIはまともな回答はできないと予想する。
なぜか？
◇
自分がどちらにつくか、他の武将も最後にどちらにつくかわからない中で、戦力の予想は不可能である。
そして、自分の選択が影響して他人の選択も変わる可能性がある。
家康も三成も双方とも、有力武将に対して、味方につけば大幅な領地増を約束している。
もちろん、双方が自分に大義があると言っている。
まさに入力する情報自体が当てにならない「カオス」である。
そして、何より関ヶ原のような「天下を二分する戦い」は、それまで起こったことがない。
AIは過去の膨大な情報をもとに、もっとも妥当性の高い回答を行う。
しかし、前例のない戦いで確率計算は無意味であり、無力である。
AIはもっともらしいが、なんの参考にもならない回答をしゃべり続けるだけだろう。
◇
それでは実際の関ヶ原で、武将たちは何を基準に決断したのか？
東軍の勝利に最も貢献したのは、福島正則や黒田長政という最前線で戦った豊臣恩顧の武将たちだった。
彼らが東軍の家康についた最大の理由は、朝鮮出兵の際に讒言（ざんげん）された恨みなどによる「石田三成だけは許せない」という「感情」だった。
そして、西軍として参加しながら最後に裏切った小早川秀秋。
彼は秀吉の正室ねねの甥だったが、家康にも恩があった。
そうした背景から傍観していたが、戦況が膠着する中、家康からの催促の銃撃「問鉄砲（といでっぽう）」で慄いて腹を決め、西軍を裏切り東軍についた。
これが勝敗を決した。
彼の判断の最大の要素も、恐怖という「感情」だった。
つまり、天下を二分する日本史上最大の決戦で、判断の最大の基準となったのは、「論理」ではなく「感情」だったのだ。
◇
関ヶ原という究極の例に限らず、我々の判断や決断は「論理」だけでなく「感情」によって大きく左右される。
進学、就職や起業、結婚、ビジネスでの重要な判断、最後の迎え方など重要な局面を想定してほしい。
Aという選択の成功率は〇〇%、Bという選択の成功率は〇〇%などという論理だけで決めているだろうか？
人間の知性が最も顕著に現れる「判断」や「決断」。
そこで重要なのは「感情」と「腹を括れるかどうか（結果に自分が責任を持てるかどうか）」である。
すでにAIは数分間なら「人間らしく振る舞うかどうか」というチューリングテストはクリアしている。
しかし、論理的な思考をどれだけ高めても、「感情」もなく、「腹を括る」という感覚も理解できないAIは人間の判断を代替することは不可能である。
もちろん超えることもない。
◇
ビッグテックやAI開発関連企業は、史上かつてない巨額の投資をし続けている。
しかし、それは「論理」に裏付けられたものだろうか？
AIの投資の根拠となっている「ディープ・ラーニング（深層学習）」や「スケーリング則（AIに与えるデータ量や学習量を増やすほど賢くなる）」は、経験則であり、明確なエビデンス（証拠）はない。
つまり、シンギュラリティやAGIが達成できるという科学的根拠はない。
ではなぜ、彼らは巨額投資を続けるのか？
それは
競争相手が万一AGI（人間を超える汎用人工知能）を作ったら、自社は脱落するという「恐怖」である。
論理を極めようとしてAIを開発している企業の投資判断の源が恐怖という「感情」なのだ。
◇
こんな記事を書いていたら、AIに不可欠なGPUの巨人「エヌビディア（NVIDIA）」のトップが来日して、日本を代表する製造業数社とのパートナーシップを大々的に発表した。
彼らはフィジカルAI（AIによる自律的判断で柔軟に動く機械）に注力するらしい。
そして生成AIにおいてはスルーされていた日本の技術を素晴らしいと持ち上げていた。
生成AIはどんなに賢くなっても、人の知性を超えるかどうかは不確かである。
言葉遊びが高度になるだけでは、持続的成長は困難である。
その危機感を背景にした「泥くさく動き、実際の仕事や生活に役立つフィジカルAIこそが社会に受け入れられる」という判断があるのではないかと思った。
そうした泥臭く、しかし着実に動く機械こそ日本の「お家芸」である。
生成AIを中心にするビジネスの危うさと転換の兆しを感じる。
◇
かくいうご隠居もAIという便利なツールを日々愛用している。
特に料理については、AIは世界中のあらゆる料理の様々なレシピを学習していて、頼りになることこの上ない。
今日もお好み焼きを「さらにふっくらと美味しく焼くコツ」をAIに尋ねて実践した。結果は大成功である。
これで十分だと思う。
▼こちらもどうぞ
