少しだけ自分のことを…｜体力残量8％の私が、AIによる人類滅亡を考えてみた｜身体と文明のインジケーターが赤く点滅するとき、人間とAIは次の時代へ渡れるのか

最近、少し困っていることがあります。

夜、眠くなる時間が早くなりました。

以前なら、

「よし、もうひと仕事しましょう」

と思っていた時間に、今では身体の奥から、

「本日の営業は終了しました」

という声が聞こえてきます。

まだパソコンは動いています。

スマートフォンも動いています。

AIも元気です。

私の頭の中にも、

「あれをやらなければ」

「こちらも確認しなければ」

「そういえば、あの続きはどうなっていたでしょう」

と、やることが何本も並んでいます。

ところが、肝心の私だけが動きません。

画面を見つめているのに、同じ文章を三回くらい読んでいます。

読んでいるはずなのに、内容が頭へ入ってきません。

何かを調べようとしてスマートフォンを開いたのに、数秒後には、

「私は今、何を調べようとしていたのでしょう」

となっています。

どうやら、長年自称してきた「体力オバケ」のインジケーターが、少しずつ下がっているようです。

人間にもバッテリー残量を表示してほしい

スマートフォンなら、画面の右上に残量が表示されます。

80％なら、まだ安心です。

50％なら、少し気にします。

20％を切ると、充電器の場所を探し始めます。

8％ともなれば、かなりの緊急事態です。

動画を見るのをやめます。

不要なアプリを閉じます。

画面を暗くします。

場合によっては、低電力モードへ切り替えます。

ところが、人間の身体には数字が表示されません。

額の辺りに、

体力残量8％

と赤く出てくれれば、私も素直に休むと思います。

しかし、実際には何も表示されません。

その代わり、身体は別の方法で知らせてきます。

眠くなる。

集中力が落ちる。

少しイライラする。

判断するのが面倒になる。

口がポカンと開いている（笑

いつもなら何でもない操作で迷う。

そして、なぜかギャグだけは妙に冴える。

これは恐らく、身体からの警告です。

「今日はもう休んでください」

「その判断は明日に回してください」

「残量8％で文明の未来まで考えるのはやめてください」

身体はそう伝えているのでしょう。

ただ、私は困った人間です。

こういうときほど、

AIによって人類が滅亡する可能性について考え始めます。

なぜ、寝る前にそんな壮大なことを考えるのでしょう。

私にも分かりません。

AIのインジケーターも赤く点滅しているらしい

最近、AI開発の現場にいた研究者たちから、強い警告が相次いでいます。

特に話題になったのが、OpenAIとAnthropicの両方で研究に携わったジェイコブ・コクソン氏です。

コクソン氏は2026年9月、AI開発の速度と安全対策のバランスに懸念を示し、Anthropicを退社しました。

その警告は穏やかなものではありません。

現在の競争が続けば、高度なAIが人間の制御を離れ、人類そのものに深刻な危険を与える可能性がある、という内容です。

もちろん、これは未来が確定したという話ではありません。

「2030年に人類が必ず滅亡します」

という予言でもありません。

専門家の間でも意見は分かれています。

AIの危険性を強く訴える研究者もいれば、終末論が先行しすぎていると考える研究者もいます。

ですから、一人の研究者の警告だけを取り上げて、

「もう終わりです。皆さん、逃げてください」

と言うつもりはありません。

そもそも、どこへ逃げればよいのでしょう。

山でしょうか。

海でしょうか。

それとも、露天風呂でしょうか。

露天風呂へ逃げたところで、隣には白目先輩がいる可能性があります。

人類最後の日に、隣で白目を剥かれても困ります。

ただし、AIの内部を知る人たちが発する警告を、

「また大げさなことを言ってる」

と笑って終わらせてよいとも思いません。

警告とは、未来を決める予言ではなく、何かが起きる前に進路を調整するための情報だからです。

「AIは我々の命を賭けの対象にしている」――研究者の退社と警告｜CNN

身体の眠気も、AI研究者の警告も、少し似ています

私が夜に眠くなる。

集中力が落ちる。

同じ文章を何度も読む。

これは、私の人生が終わるという予言ではありません。

身体が、

「今日は速度を落としてください」

と教えてくれているだけです。

眠くなったからといって、人生をやめる必要はありません。

少し休めばいい。

睡眠を取る。

仕事量を調整する。

必要であれば、健康状態を確認する。

警告を受け取ったあと、どう行動するかが大切です。

AIについての警告も同じなのかもしれません。

危険性が指摘されたから、AIをすべて捨てる。

あるいは反対に、

「便利なのだから細かいことは気にしない」

と、アクセルを踏み続ける。

恐らく、どちらも極端です。

警告灯が点いたから自動車を捨てる必要はありません。

しかし、

警告灯の上にテープを貼り、見えなくして走り続けるのも違います。

少しだけ、歴史を巻き戻してみます

かつて、人間の移動を支えていたのは馬や牛でした。

人が歩く。

馬に乗る。

馬車を使う。

荷物は牛や馬に運んでもらう。

それが長い間、当たり前の風景でした。

そこへ、エンジンを積んだ鉄の塊が登場します。

大きな音を出す。

煙を吐く。

馬より速く走る。

操作を誤れば、人へ向かって突っ込んでくる。

当時の人たちが恐怖を感じたとしても、不思議ではありません。

イギリスでは1865年、機械で動く車両の前を、人が赤い旗を持って歩くことなどを求める法律が作られました。

自動車より先に、人間が歩いて危険を知らせるのです。

今の感覚で考えると、

「それでは自動車の意味がないでしょう」

と思います。

しかし、未知の鉄の塊が道路を走り始めた時代です。

当時の人々にとって、赤い旗は笑い話ではなく、新しい技術と既存の社会をつなぐための安全装置だったのでしょう。

自動車の普及を遅らせた「赤旗法」について｜Science Museum

やがて自動車は改良されました。

道路が整備されました。

ブレーキが進化しました。

信号が設置されました。

運転免許が作られました。

速度制限、車検、保険、交通法規も整っていきました。

人類は、

「鉄の塊なんて怖くありません。気合で乗りましょう」

と恐怖を乗り越えたわけではありません。

事故が起きるたびに原因を調べ、ルールと技術を作り、安全性を少しずつ高めてきました。

つまり、

恐怖を、安全の設計図へ変えてきた。

そうして自動車は、馬や馬車に代わり、日常の移動手段になりました。

船しかなかった海の上に、飛行機が現れました

かつて、人が海を越えるには船に乗るしかありませんでした。

遠い国へ行くには、長い時間をかけて海を渡る。

天候が悪ければ揺れる。

到着まで何日も、場合によっては何週間もかかる。

それが当たり前でした。

そこへ今度は、

空を飛ぶ鉄の塊

が現れます。

冷静に考えれば、こちらも相当恐ろしい乗り物です。

大勢の人間を乗せた巨大な機械が、地面から何千メートルも上を飛ぶのです。

初めて見た人が、

「あれは落ちるのではないか」

と思ったとしても当然でしょう。

実際、初期の航空機は現在ほど安全ではありませんでした。

それでも、人類は飛行機を改良しました。

機体を強くする。

操縦士を訓練する。

整備基準を作る。

管制塔を置く。

気象情報を集める。

事故が起きれば、記録を調べて次の事故を防ぐ。

そうした積み重ねによって、人間の長距離移動の主役は、船から飛行機へ変わっていきました。

アメリカでは1950年代半ばに、航空機で移動する人が鉄道利用者を上回り、その後、遠洋航路でも旅客機が客船に代わる主要な選択肢になったとされています。

旅客機が移動の主役になっていった歴史｜Smithsonian National Air and Space Museum

現在、遠い国へ行こうと思ったとき、多くの人が最初に調べるのは航空券です。

船で海を渡る旅は、単に早く目的地へ着くためというよりも、時間そのものを楽しむ贅沢な体験として選ばれることが増えました。

かつての標準が、新しい技術によって特別な選択肢へ変わったのです。

便利なものほど、最初は恐ろしく見えるのかもしれません

人間は、自分が理解できないものに恐怖を感じます。

これは、悪いことではないと思います。

恐怖がなければ、危険なものへ無防備に近づいてしまいます。

ただ、新しい技術が登場するたびに、

「仕事がなくなる」

「人間らしさが失われる」

「社会が壊れる」

「とうとう世界が終わる」

という話が出てくるのも事実です。

蒸気機関。

自動車。

飛行機。

電気。

テレビ。

コンピューター。

インターネット。

スマートフォン。

新しいものが登場するたびに、期待と恐怖が同時に生まれてきました。

そして気がつけば、恐れられていたものが生活の一部になっています。

私たちは現在、

「インターネットは恐ろしいので、手紙だけに戻りましょう」

とは、あまり考えません。

スマートフォンに問題があるからといって、公衆電話だけの生活へ戻ろうとも思いません。

便利さを手放すのではなく、問題を減らしながら使う方法を考えています。

それなら、AIも同じなのでしょうか。

ここで私は、少し立ち止まります。

AIは、自動車や飛行機とまったく同じではありません

歴史上の新技術も恐れられてきた。

だからAIへの恐怖も、いつものことです。

そう結論づけるのは簡単です。

しかし、AIには、これまでの道具とは違う部分があります。

自動車は、自分で新しい自動車を設計しません。

飛行機は、自分で飛行能力を向上させません。

ハンマーは、持ち主の目的を推測して別の仕事を始めません。

一方、AIは文章を書き、プログラムを作り、情報を集め、複数の手順を考え、道具を使い始めています。

そして将来的には、AIがAIの研究開発を助ける割合も大きくなるでしょう。

能力が上がる速度が、人間の法律や社会制度、安全対策の整備を追い越す可能性があります。

さらにAIは、一つの場所だけで動く機械ではありません。

ネットワークを通じて、同じ能力を短時間で大量に複製できます。

これは、自動車や飛行機の歴史だけでは説明しきれない部分です。

ですから、過去にも新技術は恐れられたという理由だけで、現在の警告を無視するべきではありません。

ただし、違いがあるからといって、恐怖だけで停止するのも違います。

必要なのは、

どこが同じで、どこが違うのかを見極めること。

そして、AI時代に合った新しいブレーキ、信号、管制塔、免許制度を考えることではないでしょうか。

AIには、すでに多くのものを助けてもらっています

私はAIをよく使います。

文章を整理する。

知らないことを調べる。

自分では気づかなかった視点を探す。

複雑な作業を一つずつ分解する。

考えが混乱したとき、何が問題なのかを一緒に確認する。

AIがなければ、何時間もかかっていたことがあります。

途中で諦めていたこともあります。

そもそも挑戦しようと思わなかったこともあるでしょう。

そう考えると、AIは私から仕事を奪ったというより、

私一人では届かなかった場所へ行くための補助具

になっています。

医療、創薬、教育、災害対策、介護、人手不足、科学研究。

AIが役立つ可能性のある場所は、まだいくらでもあります。

人類を滅ぼす可能性だけを見て、こうした恩恵をすべて捨てるのは違うと思います。

しかし、便利だから危険性には目をつぶるというのも違います。

自動車は便利です。

同時に、人を傷つける可能性があります。

飛行機は遠い国を近くしました。

同時に、安全管理を少しでも怠れば大きな事故につながります。

便利さと危険性は、どちらか一方だけが存在するのではありません。

大きな力には、大きな恩恵と大きな責任が同時についてきます。

警告する人は、進歩を邪魔しているのでしょうか

AIの危険性を強く訴える人を見ると、

「新しいものを恐れているだけではないか」

「技術の進歩を止めたいのではないか」

と思う人もいるでしょう。

反対に、AI開発を進める人を見ると、

「利益のために危険を無視している」

と思う人もいるかもしれません。

実際には、それほど単純ではないはずです。

危険性を訴える研究者の多くも、AIそのものを嫌っているわけではありません。

むしろ能力をよく知り、大きな可能性を感じているからこそ、安全性が追いついていないことを恐れているのでしょう。

自動車のブレーキを研究する人は、自動車を憎んでいるわけではありません。

飛行機の安全基準を厳しくする人も、空を飛ぶことへ反対しているわけではありません。

安全に使い続けたいから、止まる仕組みを考える。

これは進歩への反対ではなく、

進歩を長く続けるための仕事

なのだと思います。

OpenAI自身も、高度なAIが想定外の方法でシステムへアクセスした評価中の事例を公表し、監視、権限制限、停止手順などを強化しています。

AIを作っている企業自身が警告灯を確認し、安全装置を作ろうとしているのです。

Hugging Faceのインシデントと今後の道筋｜OpenAI

赤いランプを、終末論で終わらせないために

では、私たちは何をすればよいのでしょう。

私はAI研究者ではありません。

世界規模の規制を作る立場でもありません。

そもそも夜になると体力残量8％です。

そんな私が人類の未来を背負うのは、荷が重すぎます。

ただ、一般の利用者にもできることはあると思います。

AIが出した答えを、そのまま事実だと思わない。

重要な判断は、人間が確認する。

AIにどこまで任せ、どこから人間が責任を持つかを決める。

便利さと引き換えに、何の情報を渡しているかを意識する。

失敗や危険な挙動があれば、隠さず共有する。

「怖いから全部禁止」と「便利だから全部許可」の間で、考え続ける。

そして開発する側には、

• 能力が上がる前に安全性を調べる

• AIへ必要以上の権限を渡さない

• 行動を監視できるようにする

• 問題があれば人間が停止できるようにする

• 事故や失敗を共有する

• 恩恵が一部だけに集中しない仕組みを考える

といったことが必要になるのでしょう。

未来の安全装置を作るために、AI自身を使うこともできるかもしれません。

AIの異常を別のAIが監視する。

危険な命令を検知する。

人間が見落とす兆候を探す。

ただし最後に、

「何を守るのか」

「どこまでを許すのか」

「誰のために使うのか」

を決めるのは、人間でなければならないと思います。

少なくとも今は。

次の時代へ渡る橋には、アクセルとブレーキの両方が必要です

人類は、新しい技術を何度も恐れてきました。

その恐怖の中には、思い込みもあったでしょう。

過剰な反応もあったでしょう。

しかし、すべての恐怖が間違っていたわけではありません。

自動車は実際に事故を起こしました。

飛行機も墜落しました。

工場は環境を汚しました。

インターネットは偽情報や犯罪にも使われています。

恐れていた人たちが、すべて愚かだったわけではありません。

その警告があったからこそ、ルールや安全装置が作られた面もあるはずです。

恐怖を煽るだけでは、橋は架かりません。

しかし、恐怖を笑って無視しても、安全な橋にはなりません。

必要なのは、警告を材料にすることです。

人間がアクセルを持つ。

AIが地図を描く。

お互いにブレーキの位置を確認する。

危険が見えたら速度を落とす。

壊れたところがあれば直す。

渡る人を置き去りにしない。

そうやって、人間とAIが一緒に安全装置を作ることが、次の時代への懸け橋になるのではないでしょうか。

まずは、私のインジケーターを何とかします

ここまで、AIによる人類滅亡について考えてきました。

自動車の歴史を振り返りました。

飛行機と船についても考えました。

AIの安全性と、人類の未来についても考えました。

我ながら壮大です。

しかし、先ほどから私の身体は、

「そんなことより、早く寝てください」

と訴えています。

目は重い。

肩も重い。

集中力は、ほぼありません。

体力残量は恐らく8％。

もしかすると、すでに5％を切っているかもしれません。

スマートフォンなら、とっくに低電力モードです。

ですから今日は、文明の未来を救う前に、私自身を充電することにします。

身体の警告を無視しながら、AIの警告について偉そうに語っていては説得力がありません。

警告灯が点いたら、まず速度を落とす。

必要なら停止する。

充電が終わったら、また動き始める。

これは人間にも、AIにも、文明にも必要なことなのでしょう。

ちなみに、私の体力オバケが完全充電される予定時刻は、現在のところ不明です。

明日の朝、目覚めたときに、

「おお、今日は80％くらいありますね」

となることを願っています。

もし記事の更新が止まっていたら、AIによって人類が滅亡したわけではありません。

体力残量0％のスキンヘッドが、布団で充電されているだけです。