メインコンテンツへスキップ
見出し画像

AI脅威論は2種類ある。しかし、実質的な警告はどちらでもなかった(AI危険論を俯瞰する：その3)

    ねむんぱす

    その1では、「AIは危険だ」というメッセージの背後に、業界自身の利害構造があることを見た。9月2日のG20で「AI規制は最小限に」と各国に働きかけていたのとほぼ同じ業界が、3週間後の9月23日には国連安全保障理事会で「AIは人類全体へのリスクになりうる」と警告していた、という奇妙な符合だ。

    その2では、同じ「AIは危険だ」が、まったく別の場所――個人の心理――からも発せられていることを見た。AIに向き合うことで可視化される自分の限界への不快感が、「AIという敵」への恐怖として外部化される、という構造だ。

    今回は、もう一つの発信源を見てみたい。そして、その1・その2で扱った二つの「AIは危険だ」に比べて、この第三の警告が、実は一番地味で、一番具体的で、そして一番話題にならなかった、という話をしたい。

    9月13日、BRICS首脳会議での警告

    9月13日、ニューデリーで開かれたBRICS首脳会議で、グテーレス国連事務総長は次のように述べた。AIは、途上国の発展を数十年単位で圧縮しうる力を持つ一方、その力は一部の企業、一部の国に集中している。多くの発展途上国は、AIを活用するための計算資源も、データも、人材も十分に持っていない。このまま放置すれば、AIをめぐる格差は、所得、機会、安全保障、主権といった、既存のあらゆる格差をさらに広げることになる、と。

    奇しくも、その1で扱った「SNSでAIの暴走を煽る見出しが拡散していた」9月14日は、この発言の翌日にあたる。片方は具体的な統計と制度設計に基づく警告、もう片方は検証可能な裏付けのない扇情的な見出し。しかし話題になったのは、圧倒的に後者だった。

    9月22日、国連総会での警告

    9月22日、任期満了を目前に控えたグテーレス氏は、国連総会で最後となる年次報告演説を行った。ここでの警告は、BRICSでのものよりさらに踏み込んでいる。AIをめぐる力はデータ、計算資源、アルゴリズムに集中しつつあり、その技術の進展速度は、人類がそれを統治する能力を上回りつつある。そして、こう述べている。危険なのは技術そのものではない。危険なのは、説明責任を伴わない技術だ、と。

    これは、その1で見た「制度的AI脅威論」――AIの価値判断の軸が一部の企業や国家に集中する危険――を、国連トップ自身の言葉で、驚くほど正確に言い当てたものだと言える。AIが人類を滅ぼす、という話ではない。誰がAIの判断基準を決め、誰がその外側に置かれるのか、という話だ。

    9月23日、安全保障理事会でのやり取り

    その翌日の9月23日、国連安全保障理事会でAIに関する会合が開かれた。フランスが議長国として招集したこの会合には、OpenAIのサム・アルトマンCEOが出席し、AIの安全性への取り組みと、国際協力・共通の安全基準の重要性について発言した。Anthropicのダリオ・アモデイCEOと Hugging Face共同創業者のクレマン・ドゥラング氏は映像回線で参加し、中国のAI企業であるDeepSeekやMoonshotにも発言の招待があったとされる。この会合は、AIの悪用や、高度なモデルに対する制御を失うリスクを扱うことを目的として企画されたものだった。

    つまり、わずか10日ほどの間に、国連は少なくとも3つの異なる場で、一貫して同じ論点を提示し続けていたことになる。AIそのものの暴走という漠然とした恐怖ではなく、AIをめぐる力の集中と、それに対する説明責任の欠如という、具体的な構造の話だ。そしてこれは、その1で見たG20のメッセージとほぼ同時期に、正反対の側から発せられていた警告でもある。

    なぜ、この警告は一番話題にならなかったのか

    ここで、その2の話がそのまま効いてくる。国連の警告は、具体的で、地味で、感情に訴える要素が少ない。「データと計算資源の集中」「説明責任を伴う技術」という言葉は、正確だが拡散力に乏しい。一方で「AIがネットを乗っ取る」という見出しは、検証可能性は低くても、感情を強く揺さぶる。

    その2で見たように、人は自分の中の不快感を、分かりやすい外部の敵に向けたがる。「データの集中と説明責任」という構造的な問題は、誰か一人を名指しできる敵ではない。一方「暴走するAI」は、恐怖の対象として扱いやすい、分かりやすい敵になる。だから後者の方が拡散し、前者は埋もれる。

    そして、その1で見た構造もここに重なってくる。国連が指摘する「力の集中」は、まさにその力を握っている側にとって、あまり広めたくない種類の警告だ。一方「AIそのものが暴走する」という物語は、その恐怖への対処として「開発している当の企業に任せよう」という結論に着地しやすく、結果的に力の集中を追認する方向にすら働きかねない。

    つまり、二つのAI脅威論(業界の利害構造、個人の心理的外部化)が互いに補強し合う一方で、実際に一番具体的で、一番検証可能で、一番行動につながりうる警告――国連が9月のわずか10日の間に、3つの異なる場で発し続けた警告――は、その両方の陰に隠れて、あまり広く話題にならなかった。

    これらの事実からみえるもの

    「AIは危険だ」という言葉は、この9月だけでも、少なくとも三つの異なる文脈で使われていた。SNSでの感情的な拡散(その2)、業界の利害を反映した制度論(その1)、そして国連による、力の集中と説明責任についての具体的な警告(その3)。

    このうち、もっとも証拠に基づき、もっとも建設的な問いを含んでいたのは、おそらく最後のものだ。しかし、もっとも話題にならなかったのも、最後のものだった。

    自分が触れている「AIは危険だ」という情報は、いったいどの文脈から出てきたものなのか。感情を煽るための物語なのか、既存の優位を守るための制度論なのか、それとも、具体的な数字と制度設計を伴った、地味だが実質のある警告なのか。2026年9月に起きたこれらの出来事は、私たちが情報の真実味をどこに求めるべきかを問い直す、重要な分岐点となるはずだ。

    (その1・その2)

    参考リンク


     
     
     

    ねむんぱす

     
     
    気になったことを、文脈と構造を拾いながら、緩く雑に考えます。 コンテキストなきSNSの即時性に疲れたので、語りの余白へ

    あなたへのおすすめ