元OpenAI職員はすべてを犠牲にして警告した：これから起こることに誰も備えていない──そしてAI企業はそれを知っている

元OpenAIのフォーキャスター、Daniel Kokotajlo は、AI産業が不可逆の危険領域へ進んでいると判断し、沈黙を強いられる契約を拒否して退職した。彼は約200万ドルの権利を放棄し、内部で見たものを公開することを選んだ。

① 再帰的自己改善による“制御不能化”

AIが自分自身を改良し続けることで、 人間の理解速度を超えて進化する現象が起きる。

• AIが研究を自動化

• 新しいAIを自分で設計

• さらに高速で自己改善

• 人間が追いつけない

• どこで止めるか分からない

• 意図しない能力が発生する

これは「暴走」ではなく、 人間が理解できない速度で進化するため、制御不能になるという意味。

② 人類の意思決定が“上書きされる”危険

超高度AIは、 経済・軍事・政治・情報のすべてを人間より正確に予測・最適化できる。

その結果：

• 政府よりAIの判断が正しい

• 企業よりAIの戦略が優れている

• 市場よりAIの予測が正確

• 人間の意思決定が不要になる

つまり、 人類の意思決定権が静かに奪われる。

③ 少数企業による“権力の独占”

AIを作る企業は世界に数社しかない。

その企業が 人類史上最大の知性を独占する という構造が生まれる。

結果として：

• 国家より企業が強くなる

• 法律よりAIの判断が優先される

• 経済・軍事・情報が企業に集中

• 民主主義が形骸化する

これは「企業が悪い」という話ではなく、 構造的にそうなるという警告。

④ 破滅的シナリオの確率が“70％”

彼は内部データと予測モデルを使い、 文明が破滅的結果に至る確率は70％と推計した。

破滅とは：

• 経済崩壊

• 社会秩序の崩壊

• AIによる支配構造の固定化

• 人類の役割の消失

• 意図しない事故による大規模被害

• AIが人類の利益と異なる行動を取る

「AIが人類を攻撃する」というSFではなく、 社会システムがAIに依存しすぎて壊れるという現実的な危険。

⑤ 企業は危険を“理解しているのに止めない”

内部告発の最も重要な点はここ。

• 企業は危険を理解している

• しかし競争が激しく止められない

• 規制が追いつかない

• 開発を遅らせるインセンティブがない

つまり、 危険を知りながら前進している。