AIは人間を超えるのか、という問いの立て方がそもそも違う気がする(AI危険論を俯瞰する：その1)
今月、AIをめぐる報道が立て続けに話題になった。
9月23日、国連安全保障理事会でAIについての会合が開かれた。OpenAI、Anthropic、Hugging Faceといった主要AI企業の幹部が顔をそろえ、Anthropicのダリオ・アモデイCEOは、AIが不適切に管理された場合「人類全体へのリスク」になりうるとの見方を示した。国連の独立国際AI科学パネルを率いるヨシュア・ベンジオ氏も同席し、専門家として説明に立っている。
SNSでも少し前から「AIが暴走すればネット全体を乗っ取る恐れがある」といった趣旨の見出しが拡散されていた。細部を追うと、元は技術的な予測についての慎重な議論だったはずが、見出しの部分だけが先鋭化して独り歩きしている。刺激的な見出しが、元の議論よりも早く、広く伝わる構図はいつも同じだ。
ここまでなら、よくある「AIは危険だ」報道の一つに見える。だが、少し引っかかることがある。
同じ月に、正反対のメッセージが出ている
さかのぼって9月2日。ノースカロライナ州で開かれたG20の閣僚級会合で、米政府は「カロライナ原則」という枠組みを提示し、AIに対する新規規制は最小限に抑えるよう各国に呼びかけていた。中国を含むG20全20か国がこれに合意したとされる。この会合には、Meta、SpaceX、Google DeepMindの首脳もオンラインで参加していたとされ、DeepMindのデミス・ハサビス氏が安全性試験の必要性を訴える一方、Metaのマーク・ザッカーバーグ氏はオープンウェイトモデルへの規制強化に反対し、イーロン・マスク氏はEUの技術規制を批判した。OpenAI側も、アルトマンCEOがこの会合に参加する予定だったことを確認していた。
整理するとこうなる。9月2日、業界の主要な顔ぶれが「AI規制は最小限に」と各国に働きかける場に参加した。その3週間後の9月23日、ほぼ同じ業界の(そして一部は同一人物の)幹部が、国連安全保障理事会で「AIは人類全体へのリスクになりうる」と警告した。
裏で何かがつながっている、という話をしたいわけではない。単に時系列を並べただけで、十分奇妙な組み合わせに見える、というだけの話だ。
勝者総取りという前提を、当事者自身が公言している
もう一つ、見過ごせない発言がある。9月24日、ホワイトハウスで米中首脳会談が行われ、AIが主要議題の一つとなった。トランプ大統領はこの会談に先立ち、AIについて「現時点で人類が目にした最大の出来事」であり、「この競争に勝った者が最終的な勝者になるだろう」と述べている。そして「米国は中国をリードしており、この優位性を維持したい」とも明言していた。
これは解釈でも推測でもない。当事者本人が、ゼロサム・勝者総取りという前提を、そのまま言葉にしている。
さらに、米中両政府はAIの軍事利用や制御不能化といったリスクについて、政府間で継続的に協議する枠組みづくりを進めているとも報じられている。「AIのリスクに共同で対処しよう」という文脈で語られてはいるが、見方を変えれば、AIをめぐるルール形成そのものが、先行する二大国の間で完結しようとしている、とも読める。
この構図から、「では追い上げてくる国、たとえば日本のような後発国は、二大国によって意図的に潰されるのではないか」という仮説が浮かぶ。面白い仮説だとは思う。ただし、これを裏づける材料は今のところ何も見つからない。ここから先は、事実ではなく、構造から導ける一つの可能性にすぎない、と明記しておく。
事実を整理する
事実として言えるのはこうだ。AI開発は巨額の計算資源と人材を要する、規模がものを言うゲームになっている。先行する主体は、当事者自身の言葉を借りれば「勝者総取り」だと認識している。そして先行する主体ほど、規制のあり方についても、リスクの語り方についても、最も強い発言力を持つ。
ここに一つの構造的インセンティブが、論理的には成立しうる。スケーリングを止められたら、先行者としての優位も止まる。だから、自分たちの開発は止めたくないが、後から追い上げてくる相手には、慎重さや規制を求めたくなる。これは意図の証明ではなく、置かれた立場から自然に発生しうる力学の話だ。
「知っている側」の発言力という非対称
これは、個人データをめぐる話とも地続きだ。膨大な行動データを横断的に統合し、そこから予測モデルを作り、意思決定に反映させる力――こうした力がどれだけ強力かを最もよく理解しているのは、それを実際に運用している側だ。知っている側は、その知見をもとに、規制のあり方についても最も強い発言力を持つ。知らない側、あるいは対抗する手段を持たない側は、警告を受け取るだけの立場に置かれやすい。
AIが特別なのは、この力学を加速させる点にある。データを統合し、予測し、判断に反映させる能力の幅が広がるほど、それを運用できる側の優位はより強固になっていく。そしてその優位を持つ側が、同時に「AIは危険だ」という言説の発信源にもなる。
これは矛盾ではなく、むしろ一貫した構造だ。力を最もよく知る者が、その力の使い方についても、規制の方向についても、最も大きな声を持つ。
だから、「AIは人間を超えるか」という問いは、もう周回遅れだ
ここまで見てくると、そもそもの問いの立て方自体が古いことに気づく。AIはすでに、多くの専門領域で人間の平均的な能力を上回っている。将棋や囲碁のような特定領域はとうの昔にそうだったし、画像診断や大量データからのパターン検出のような分野でも、人間を上回る場面は珍しくなくなっている。工業機械と手作業の生産性の差を比較するのと同じ構造であり、ナンセンスだ。
だから「AIは人間を超えるか」は、もはや検証すべき問いではない。すでに、部分的には超えている。
本当に考えるべきなのは、そこから先だ。その能力を、誰が、どんな目的で使うのか。そして、使うこと自体によって、その優位性がどれだけ固定化されていくのか。
9月に立て続けに出てきた「AI規制は最小限に」というメッセージと、「AIは人類へのリスク」という警告、そして「勝った者が最終的な勝者になる」という当事者自身の言葉――これらは別々の出来事に見えて、実は同じ一点を指している。AIの力を最もよく理解している者が、その理解にもとづいて、規制の方向についても、危険の語り方についても、最も大きな発言力を持っているという事実だ。
もちろん、安全性への懸念も、規制への慎重論も、それぞれに正当な理由がありうる。断定できることは少ない。ただ、同じ月に、同じような顔ぶれから、正反対に聞こえるメッセージが出てきたという事実、そしてその一人が「勝者総取りだ」とはっきり口にしたという事実だけは、頭の片隅に置いておいていい。
SNSで「AI、ネットを乗っ取る」という見出しに反応する前に、その3週間前に同じ業界が、同じ顔ぶれが、各国に何を求めていたか。一度確認してみるのも悪くない。
