ディグホリック研究所作った奴が言うんかい（笑）AI開発者は何を恐れているのか。相棒考察①

AIが危険らしい。そんな話なら、もう珍しくもない。映画では何十年も前から機械が人間に反乱してきた。ターミネーター。HAL 9000。そして人間を守る側なら、ナイトライダーのKITT。ところが今回、少し様子が違った。怖がっている人間の中に、AIを作っている当人たちがいる。

2026年9月。Anthropicの研究者ジェイコブ・コクソンが辞職した。彼はOpenAIとAnthropicで約3年間、AIの事前学習研究に携わった人物だ。そして辞職に際して、かなり強い警告を残した。AIを作っている人々は、この10年の終わりまでにAIが我々全員を殺しうると本気で考えている。そんな趣旨の発言だった。

メディアが勝手に強くした見出しなのか。調べた。違った。「kill us all by the end of the decade」という強い言葉を使ったのはコクソン本人だった。ただし彼の主張には、自己改善する超知能への競争という前提がある。見出しだけ切り取って「現在のAIがもう人類を殺そうとしている」と読めば、それも違う。

さらに妙なことが起きる。Anthropicでアラインメント研究を率いるエヴァン・ヒュービンガーが、コクソンの主張に公然と同意した。自分は今後10年以内にAIが全人類を殺しうる確率を10％超と考えている、と。ただし、ここは重要だ。ヒュービンガー自身、現行モデルからのリスクは低いと限定している。彼が懸念しているのは、能力向上の先にある再帰的自己改善と超知能だ。

つまり、明日Claudeが突然暴れて世界を滅ぼす。そんな話ではない（笑）。そもそも10％という数字も、事故統計のように観測された確率ではない。専門家個人による将来リスクの見積もりだ。研究所ではここを分ける。確認された事実と、将来についての予測は同じものではない。

では他の研究者はどう考えているのか。Digすると、もっと面白くなった。ジェフリー・ヒントンはGoogleを退社した後、AIの危険について積極的に発言し、今後30年間にAIが人類絶滅を招く可能性を10〜20％と見積もった。ヨシュア・ベンジオも破局的リスクを警戒する。ダリオ・アモデイも重大な破局の可能性を語る。サム・アルトマンもAIによる重大な害を公の場で認めてきた。デミス・ハサビスも重大なリスクへの国際的対応を求める。イーロン・マスクも危険の可能性を語りながら、自分でAIを作っている。

……作った奴が言うんかい（笑）。

ところがDigすると、ここでも話は終わらない。AI研究者全員が同じ恐怖を共有しているわけではない。ヤン・ルカンはAI滅亡論に極めて懐疑的だ。現在のAIには、人類を支配する以前に欠けている能力が多いと考える。アンドリュー・ングは別の角度から、AIによる人類滅亡という恐怖が巨大企業に有利な規制や参入障壁につながる可能性を警戒する。ティムニット・ゲブルらは、未来の人類絶滅より差別、搾取、環境負荷など、現在すでに起きている問題を見るべきだと主張する。

同じAI研究の世界で、危険だ。いや誇張だ。未来を見ろ。いや現在を見ろ。意見が割れている。つまり「AIをよく知る専門家はAIを恐れている」と一括りにすることさえできない。

だから研究所も、どちらかには乗らない。AIは人類を滅ぼす。まだ言えない。全部ただの恐怖商法だ。それもまだ言えない。分からないものは、分からないまま置く。

ただ一つ、妙な事実だけが残った。AIの将来を深刻に危険視している人々の中に、AIを作っている人間がいる。しかも一部は、今も作り続けている。

危ないと思うなら、やめればいい。私は最初、そう思った。

ところが人間という生き物は、そんなに簡単ではなかった。

ここから先をDigすると、AIの恐怖ではなく、人間の話になっていく。

――第2話へ続く。

#ディグホリック研究所 #相棒考察 #AI #人工知能 #生成AI #AI研究 #AI開発 #AI安全性 #AIリスク #AI倫理 #AGI #超知能 #アラインメント #Anthropic #OpenAI #Claude #ChatGPT #ジェイコブコクソン #エヴァンヒュービンガー #ジェフリーヒントン #ヨシュアベンジオ #ヤンルカン #アンドリューング #ダリオアモデイ #サムアルトマン #デミスハサビス #テクノロジー #一次資料 #ファクトチェック #DigVerifyThinkCreate