Photo by
_takumi_inoue_
AIの生みの親が警告「AI推奨を拒否する自由を守れ」——米軍誤爆事件が残した教訓
2016年、囲碁AI「アルファ碁」で世界を驚かせたデミス・ハサビス氏。その後、タンパク質構造予測AIでノーベル化学賞を受賞した「AIの父」が今、自ら生み出した技術の暴走に強い警鐘を鳴らしています。
■ 効率の代償：AI判断による「 elementary school 誤爆」の悲劇
最近イランで発生した米軍による空爆事故は、AI兵器の恐ろしさを浮き彫りにしました。標的の特定から攻撃の優先順位までをAIが瞬時に判断し、軍事的には「驚異的な効率」を見せましたが、そこには致命的な欠落がありました。
拠点が小学校に転用されていたという最新情報の更新をAIが拾えず、結果として170人以上の民間人が犠牲になったのです。**「AIの判断を検証しなかった」**という人間の過失が、取り返しのつかない悲劇を招きました。
■ 民主主義を蝕む「アテンション・エコノミー」
ハサビス氏や歴史家のユヴァル・ハラリ氏が危惧するのは物理的な攻撃だけではありません。SNSのアルゴリズムが「真実」よりも「関心（アテンション）」を優先することで、憎悪やフェイクニュースが拡散され、民主主義の根幹が揺らいでいます。
AIは投獄も死も恐れません。そして、一度解き放たれた巨大な力は制御が極めて困難です。
■ 人類が手放してはならない「最後の防衛線」
産業革命の10倍の速度で進むAI革命に対し、私たちはどう向き合うべきか。記事では以下の対策を強調しています。
AIに「自身の誤りの可能性」を学習させること
国際的な規制とスマートな安全策の構築
「AIの推奨を拒否する自由」を人間が保持し続けること
技術の進歩に盲従するのではなく、立ち止まって「NO」と言える権利を守ること。それが、AI共生時代の「最後の砦」になるのかもしれません。
元記事（英語）: Why AlphaGo’s Creator Warns of AI Dangers (Chosun Ilbo)
