AGI、ASIとは、どんな世界か――その時、人類の価値とは何か

2026年6月22日 06:54

汎用人工知能、人工超知能、人類との共生、そして「人間の価値」を問い直す

読者への導入
ChatGPTが登場した時、多くの人は「便利なAIチャットが出てきた」と受け止めました。
しかし、数年後のいま振り返ると、あれは単なる新サービスの登場ではありませんでした。
人類が初めて、日常の中で「汎用知能らしきもの」に触れ始めた瞬間でした。
では、この流れの先にあるAGI、さらにASIとは、どんな世界なのでしょうか。
そして、人間の価値はどこに残るのでしょうか。

この記事でわかること

AGIとASIの違い
AGIと呼ぶための基準
ASIが単なる「賢いAI」と違う理由
AIが仕事、経済、電力、教育をどう変えるのか
AGI・ASIと人類は共生できるのか
スピノザ、アインシュタイン、ハサビスがなぜつながるのか
日本がAGI時代に取るべき立ち位置

先に結論

AGIは「便利なチャットボットの完成形」ではありません。
人間社会の知的生産構造を変える存在です。

そしてASIは、さらにその先にある「文明の設計主体」を変え得る存在です。

だから問われているのは、AIを使えるかどうかではありません。
人類が、知能という力と、どう共生するかです。

※本記事は2026年6月21日時点の公開情報・研究動向をもとに整理しています。AGI/ASIの到達時期や定義は、研究者・企業・政策機関によって見解が分かれます。

2022年11月30日、OpenAIがChatGPTを公開した。最初は「自然な会話ができるAIチャット」として受け止められたが、わずか数年で生成AIは文章作成、翻訳、プログラミング、画像生成、動画生成、資料作成、データ分析、営業支援、法務文書の下書き、研究補助まで広がった。多くの人は、すでに日常生活でも仕事でもAIを使い始めている。

だが、本当の問いはここからである。

このままAIが進化し続けると、最後に何が起きるのか。

その答えとして世界中のAI研究者、起業家、投資家、政策担当者が語り始めている言葉が、AGIとASIである。

AGIとは、Artificial General Intelligence、すなわち汎用人工知能である。特定の作業だけに強いAIではなく、人間のように多くの領域を横断して学び、推論し、計画し、問題を解決するAIを指す。

ASIとは、Artificial Superintelligence、すなわち人工超知能である。これは単に「人間並みのAI」ではない。人間の最も優秀な頭脳、あるいは人間社会の大規模組織をも超える知能である。AGIが「人間級の汎用知能」だとすれば、ASIは「人類を超える知能」である。

しかし、この二つの言葉は、まだ厳密に定義されきっていない。OpenAI、Google DeepMind、Anthropic、xAI、Meta、研究者、哲学者、政策機関によって、少しずつ意味が違う。だからこそ、AGIとASIを語るには、単なる技術解説では足りない。

必要なのは、次の五つを同時に見ることである。

AGIの基準は何か
ASIの基準は何か
AGI・ASIと人類は共生できるのか
これは哲学とどう関係するのか
その時代に、人類の価値とは何か

本稿では、OpenAI、Google DeepMind、Anthropic、Shane Legg、Demis Hassabis、Sam Altman、Dario Amodei、Nick Bostrom、François Chollet、世界経済フォーラム、IEA、国際AI安全性レポート、日本AIセーフティ・インスティテュートなどの議論を整理しながら、AGI・ASIがもたらす世界を考える。

結論から言えば、AGIとは「便利なチャットボットの完成形」ではない。AGIとは、社会の知的生産構造を変える存在である。そしてASIとは、文明の設計主体そのものを変え得る存在である。

その時、人類に問われるのは、AIを使えるかどうかではない。

人類は、知能という力と、どのような関係を結ぶのか。

そして、その時代に、人類の価値とは、いったい何なのか。

それが本当の問いである。

この記事で反映した最新論点

今回の更新では、単に目次や参考リンクを整えるだけではなく、2026年時点で追加すべき重要論点を再調査し、本文へ反映した。

第一に、Google DeepMindが2026年に公式ブログで紹介し、その後論文版としても公開された「AGIを測るための認知フレームワーク」をより明確に組み込んだ。AGIを一つの魔法の到達点として語るのではなく、知覚、生成、注意、学習、記憶、推論、メタ認知、実行機能、問題解決、社会的認知という十の能力に分解して測る考え方である。これにより、「このモデルは数学に強いが、社会的認知は弱い」「コードは書けるが、長期計画は弱い」というように、AIの能力をより立体的に見られる。

第二に、2026年6月にGoogle DeepMindが公開した「AI Control Roadmap」を補強した。これは、これからのAIエージェントを単なる便利ツールではなく、場合によっては社内権限を持つ“内部脅威”としても扱い、監視、遮断、権限管理、リアルタイム停止を設計する考え方である。AGI時代の安全性は、モデルの性格を良くするだけでは足りない。システム全体で封じ込める必要がある。

第三に、2026年6月に公開された論文「From AGI to ASI」の定義を反映した。そこではAGIを中央値の人間レベルに近い汎用知能、ASIをほぼすべての人間活動領域で人間の大規模専門家集団を上回る知能として整理している。この定義を使うと、AlphaFoldやAlphaGoのような単一領域の超人AIはASIではない、という線引きが明確になる。

第四に、AnthropicのResponsible Scaling Policy Version 3.0とAnthropic Economic Indexを追加した。前者は、AI能力が上がるほど安全対策を段階的に強化する考え方であり、後者は、実際のAI利用データから労働市場への影響を測ろうとする試みである。AGI時代の雇用論は、「AIが何をできるか」だけでなく、「企業や人が実際にどの仕事へAIを入れているか」を見なければならない。

第五に、International AI Safety Report 2026の「evidence dilemma」を反映した。AIリスクは、証拠が十分に集まる頃にはすでに深刻化している可能性がある。一方で、早すぎる規制は誤った制度を固定化する恐れがある。AGI時代の政策は、このジレンマの中で判断しなければならない。

第六に、日本の政策論点として、2025年に成立・全面施行されたAI推進法（AI新法）、J-AISIの2025年版レポート、AI事業者ガイドラインの改訂（第1.1版から第1.2版へ）、広島AIプロセスを追加した。日本は、米中のように巨大フロンティアモデル競争で正面から勝つだけではなく、AI安全性、現場実装、フィジカルAI、高齢化・災害対応・地方維持の実証国として、AGI時代の社会実装モデルになれる可能性がある。

第七に、哲学パートの表現を調整した。スピノザ、アインシュタイン、ハサビスをつなぐ構図は非常に面白いが、「AGIが宇宙のすべてを完全に予測する」と断言すると科学的には強すぎる。量子力学、カオス、計算資源、観測限界、計算不可解性があるため、AGIは“神そのもの”ではなく、“人類が自然を読むための新しいレンズ”として表現するのが妥当である。

第八に、Stanford HAIの2026年版AI Indexを参考リンクに加え、AIの能力向上そのものよりも、評価方法、ガバナンス、教育、データインフラ、AI主権といった社会側の準備が追いついていない、という問題意識を補強した。AGI時代の本当の争点は、モデル性能だけではなく、社会がそれを測り、管理し、分配し、使いこなせるかにある。

ChatGPTからAGIへ――なぜ数年でここまで来たのか
AGIとは何か――「強いAI」と「弱いAI」の先にあるもの
AGIの基準――何を満たせばAGIと言えるのか
- 補章A：2026年版のAGI測定――Google DeepMindの認知能力10分類
Shane Leggの「minimal AGI」――AGIという言葉を作った側から見た到達点
なぜ現在のAIはまだAGIではないのか
- 補章B：意味理解論争――「次の単語予測だけ」なのか
ASIとは何か――人間級を超えた知能
AGIからASIへの道――四つの経路
いつ実現するのか――到達時期をめぐる論争
AGIが仕事を変える――雇用、企業、教育、専門職
- 補章C：AI労働指数――「できる仕事」と「実際に置き換わる仕事」は違う
AGIが経済を変える――お金、エネルギー、計算資源

補章D：AIインフラは電力産業である――データセンター、送電網、国家戦略

AGI・ASIと人類は共生できるのか
AI安全性――なぜ「能力」だけではなく「価値観」が問題になるのか

補章E：2026年の重要追加――AI Control Roadmapとエージェント封じ込め

哲学との関係――スピノザ、アインシュタイン、ハサビス

補章F：誤解しやすい点――AGIは神ではなく、人類の新しいレンズである

日本はAGI時代に何をすべきか

補章G：日本のAI政策更新――J-AISI、AI事業者ガイドライン、AI主権

経済は誰のためにあるのか――自動化の根本ジレンマ
AGI・ASI時代に、人類の価値とは何か
結論――AGIとは、人類が「知能とは何か」を問い直す出来事である
参考リンク
ハッシュタグ

1. ChatGPTからAGIへ――なぜ数年でここまで来たのか

ChatGPTの登場は、AIの歴史における一つの転換点だった。

それ以前にもAIは存在していた。検索エンジン、レコメンド、音声認識、画像認識、翻訳、自動運転、囲碁AI、将棋AI、広告配信、金融取引など、AIはすでに社会の奥深くに入り込んでいた。しかし、多くの人にとってAIは「裏側で動くシステム」だった。

ChatGPTは違った。

誰もが目の前でAIと会話できるようになった。質問をすれば答える。文章を要約する。企画書を書く。コードを書く。メールを整える。英語を翻訳する。専門的な概念を説明する。画像や音声、動画とも接続されるようになった。

AIは突然、専門家だけの道具から、万人が使う知的インターフェースになった。

この変化の背後にあるのが、大規模言語モデル、トランスフォーマー、膨大なデータ、GPUやTPUなどの計算資源、そして人間のフィードバックを使った調整である。特にトランスフォーマーは、膨大なテキストやコードや画像情報から抽象的なパターンを学ぶ基盤となり、現在のAIブームの中心技術になった。

しかし、ここで重要なのは、ChatGPTがそのままAGIだということではない。

重要なのは、ChatGPT以降、人類が初めて「汎用知能らしきもの」を日常的に触るようになったことである。

それまでAIは、囲碁なら囲碁、画像分類なら画像分類、翻訳なら翻訳というように、特定のタスクに閉じていた。いわゆる「弱いAI」である。ところが生成AIは、一つのモデルが文章、コード、数学、画像、音声、検索、推論、対話、計画のような複数領域に広がり始めた。

ここで人々は気づいた。

もしこの流れが続くなら、AIは単なるツールではなく、人間の知的活動そのものに近づいていくのではないか。

この問いが、AGI論争の出発点である。

2. AGIとは何か――「強いAI」と「弱いAI」の先にあるもの

AIを語る時、昔から「弱いAI」と「強いAI」という区分が使われてきた。

弱いAIとは、特定の目的のために作られたAIである。囲碁を打つ、画像を分類する、文章を翻訳する、需要を予測する、与信を判断する。こうしたAIは非常に高性能でも、基本的には限定された環境で働く。

一方、強いAIとは、人間のように広い状況に適応し、自分で学び、理解し、推論し、計画し、複数の目的に対応できるAIである。

AGIは、この「強いAI」に近い概念として語られることが多い。

ただし、現在のAGI議論では、単に「人間のように考えるAI」という抽象的な定義だけでは不十分である。なぜなら、AI企業や研究者は、AGIをより実務的、測定可能、社会的な基準で捉えようとしているからである。

OpenAIの初期のAGI定義はよく知られている。同社のCharterでは、AGIを「ほとんどの経済的価値ある仕事で人間を上回る高度に自律的なシステム」と表現している。これは哲学的な定義というより、経済的な定義である。つまり、AGIとは「人間の労働市場で価値を生む知的作業の大部分を代替・拡張できる存在」だという見方である。

一方、Sam Altmanは自身のブログで、AGIは弱く定義された言葉だと認めた上で、「多くの分野で人間レベルの複雑な問題に取り組めるシステム」と表現している。ここでは、経済価値よりも、複数領域にまたがる問題解決能力が重視されている。

Google DeepMindの研究者たちは、AGIを単一の到達点ではなく、段階的に評価すべきだとする「Levels of AGI」という枠組みを提案している。この枠組みでは、AGIを「性能」「一般性」「自律性」の観点から分類する。つまり、どれほど高性能か、どれほど広い領域に対応できるか、どれほど人間の助けなしに行動できるかを分けて考えるのである。

François Cholletが提案したARC-AGIの考え方はさらに別の角度を持つ。そこで重視されるのは、既に大量に学習した知識を使うことではなく、未知の課題に対してどれだけ効率よく新しいスキルを獲得できるかである。彼は知能を「スキル獲得効率」として捉える。これは非常に重要である。

なぜなら、現在のAIは、すでに学習した世界には強い。しかし、まったく新しい課題に少ない情報で適応する能力については、人間に及ばない部分が残っているからである。

つまり、AGIには少なくとも三つの見方がある。

第一に、経済的なAGIである。人間が行う多くの仕事をAIが実行できるようになる状態。

第二に、認知的なAGIである。人間が普通に行う知的作業を、広い範囲でAIがこなせる状態。

第三に、学習的なAGIである。未知の課題に対して、人間並み、あるいは人間以上の効率で新しいスキルを獲得できる状態。

この三つを合わせて考えると、AGIとは次のように整理できる。

AGIとは、人間が行う多くの知的作業を、広い領域で、未知の状況にも適応しながら、自律的に遂行できるAIである。

3. AGIの基準――何を満たせばAGIと言えるのか

では、具体的に何を満たせばAGIと言えるのか。

現時点で世界的に完全合意された基準はない。しかし、主要な議論を整理すると、AGIの基準は少なくとも七つに分けられる。

基準1：汎用性

一つ目は汎用性である。

AGIは、特定のタスクだけに強いAIではない。文章、数学、プログラミング、科学、法律、医学、経営、教育、創造、交渉、計画など、複数の分野を横断できなければならない。

ただし、すべての分野で世界最高水準である必要はない。普通の人間も、すべての分野の専門家ではない。重要なのは、普通の人間がこなせる広い範囲の知的作業を、AIが同じように、あるいはそれ以上に実行できるかである。

基準2：未知課題への適応力

二つ目は未知課題への適応力である。

既に学習した問題を解けるだけではAGIではない。人間が初めて見る問題に対して、仮説を立て、試行錯誤し、少ない情報からルールを見つけ、解決策を作る。これが重要である。

ARC-AGIが重視するのはここである。知能とは、既存の知識量ではなく、未知の状況で新しいスキルをどれだけ効率よく獲得できるかだという考え方である。

基準3：継続学習

三つ目は継続学習である。

人間は、今日経験したことを明日に活かし、数年後の人格や専門性に統合する。仕事を通じて成長し、人間関係を通じて学び、失敗から判断を変える。

現在のAIは、会話の文脈内では学習しているように見える。しかし、長期にわたって経験を蓄積し、人格や能力として統合する力はまだ限定的である。

Shane Legg氏は、現在のAIの大きな課題として「continual learning」、つまり長期間にわたって学び続ける能力を挙げている。人間のように何年も学び続けるAIにならなければ、本当の意味で価値あるAGIにはならないという見方である。

基準4：視覚・空間理解

四つ目は視覚・空間理解である。

人間の知能は言語だけではない。空間を把握し、物体を操作し、身体を動かし、現実世界の制約を理解する。コップを持つ、段差を避ける、道具を使う、人の表情を読む、部屋の状況を把握する。これらは言語モデルだけでは完結しない。

現在のマルチモーダルAIは画像や動画を扱えるようになっているが、人間の幼児のように世界を身体的に理解しているわけではない。視覚・空間理解は、AGIからフィジカルAI、ヒューマノイドロボットへ進むうえでの核心である。

基準5：長期計画

五つ目は長期計画である。

現在のAIエージェントは、数分から数時間の作業を支援できるようになってきた。しかし、人間のように数ヶ月、数年単位の目的を持ち、環境変化に応じて戦略を修正し、複数の関係者を巻き込みながら進める力はまだ不十分である。

AGIが本当に社会で働くなら、単発の回答ではなく、継続的なプロジェクト遂行が必要になる。

基準6：自律性と道具利用

六つ目は自律性である。

AGIは、人間から一問一答で指示されるだけではなく、自分でタスクを分解し、必要な道具を選び、検索し、コードを書き、実験し、結果を評価し、改善する必要がある。

ここでAIエージェントが重要になる。ブラウザを使う、ファイルを読む、コードを実行する、メールを書く、予定を調整する、APIを呼び出す、ロボットを動かす。AIが外部世界に作用するほど、AGIに近づく。

ただし、自律性が高まるほど危険も高まる。間違った目標を与えられたAIが、勝手に大規模な行動を取る可能性があるからである。

基準7：安全性と価値整合性

七つ目は安全性である。

これは単なる倫理の付録ではない。AGIの中核基準である。

どれほど賢くても、人間の意図とズレた行動を取るAIは社会に入れられない。サイバー攻撃を支援する。生物・化学リスクを増幅する。人を操作する。嘘をつく。権限を拡大しようとする。人間の監視を回避する。こうした能力が出てくるなら、AGIは単なる生産性ツールではなく、文明リスクになる。

OpenAIのPreparedness Framework、Google DeepMindのFrontier Safety Framework、AnthropicのResponsible Scaling Policy、国際AI安全性レポートは、いずれもこの問題に向き合っている。

つまり、AGIの基準は「賢いかどうか」だけではない。

AGIとは、広い能力を持ち、未知課題に適応し、長期に学び、現実世界を理解し、自律的に行動し、それでも人間社会の価値と整合するAIでなければならない。

補章A. 2026年版のAGI測定――Google DeepMindの認知能力10分類

ここで、AGI基準について重要な追加をしておきたい。

2026年3月、Google DeepMindは公式ブログで「Measuring progress toward AGI: A cognitive framework」を紹介し、その後、論文版も公開された。これは、AGIを単に「人間のように賢いAI」と曖昧に語るのではなく、認知科学、心理学、神経科学の知見をもとに、一般知能を構成する能力を分解して測ろうとする試みである。

そこで示された十の認知能力は、次の通りである。

知覚――環境から感覚情報を取り出し、処理する力
生成――テキスト、音声、行動などを生み出す力
注意――重要な情報に認知資源を向ける力
学習――経験や指示から新しい知識を獲得する力
記憶――情報を保存し、後で取り出す力
推論――論理的な結論を導く力
メタ認知――自分自身の認知状態を理解し、監視する力
実行機能――計画、抑制、柔軟な切り替えを行う力
問題解決――特定領域の課題に対して有効な解決策を見つける力
社会的認知――他者や社会的状況を理解し、適切に応答する力

この分類が重要なのは、AGIを「一つの点」ではなく「能力の地図」として見られるようになるからである。

現在のAIは、生成、翻訳、知識検索、コード作成、数学、論文要約では非常に強い。しかし、注意、メタ認知、実行機能、社会的認知、継続学習には弱点が残る。つまり、AIはすでに多くの分野で人間を超えているが、人間のように全体として均整の取れた知能にはまだ届いていない。

この点は、AGI論争で非常に重要である。

AGIは、テストの点数だけで測れない。司法試験、数学オリンピック、プログラミングコンテスト、医学試験で高得点を取ったとしても、それだけでAGIとは言い切れない。なぜなら、実社会の知能には、状況把握、長期記憶、自己評価、人間関係、責任、身体性、文化理解が含まれるからである。

Google DeepMindは、この認知能力分類を実際に評価へ落とし込むため、Kaggleと連携して評価設計を呼びかけた。特に評価ギャップが大きい領域として、学習、メタ認知、注意、実行機能、社会的認知が挙げられている。

これは、AGIが近づいているからこそ必要になった動きである。

以前なら、AGIは遠い未来の哲学的な話だった。しかし現在は、測定方法を作らなければならない段階に入っている。つまり、AGIは「語る対象」から「測る対象」へ変わり始めているのである。

4. Shane Leggの「minimal AGI」――AGIという言葉を作った側から見た到達点

AGIという言葉を語る上で避けて通れない人物が、Shane Leggである。彼はDeepMindの共同創業者の一人であり、Marcus Hutterとの研究で「知能とは、広い範囲の環境で目標を達成する能力である」という定義を提示した人物でもある。

近年の議論で重要なのは、Legg氏が「minimal AGI」という言葉を使っていることだ。

AGIという言葉は人によって定義が違いすぎる。だから彼は、少なくともこれを満たさなければAGIとは呼べないという最低ラインとして、minimal AGIという表現を使う。

その考え方は非常に明快である。

minimal AGIとは、普通の人間ができる認知的なことを、AIが一通りできる状態である。

ここで重要なのは、「世界最高の専門家を超える」ことではない。普通の人間が日常的に行う知的作業を、AIが下回らないことだ。読む、書く、話す、推論する、計画する、視覚的に理解する、状況に応じて学ぶ、失敗を修正する。こうした普通の人間の認知能力を、AIが全体として満たす。

この定義は、AGI議論を冷静にする。

なぜなら、現在のAIはすでに一部の分野で人間を超えているからだ。多言語、知識検索、数学、コーディング、画像認識、科学論文の要約などでは、普通の人間を大きく超えている部分がある。

しかし同時に、AIは驚くほど初歩的な失敗をすることがある。物理的な常識を誤る。視覚的な関係を取り違える。長期的な一貫性を失う。継続学習ができない。自分が何を知らないかを十分に把握できない。

このような「能力の凸凹」は、近年よく「jagged intelligence」と呼ばれる。つまり、AIは一部では超人的だが、一部では人間以下である。山のように高い能力と、谷のように低い能力が混在している。

Legg氏は、現在のAIの弱点として、特に二つを挙げている。

一つは継続学習である。

AIは文脈窓の中では学習しているように見えるが、長期にわたり経験を蓄積していく力はまだ不十分である。人間は仕事、人生、人間関係を通じて何年も学ぶ。AIが本当に価値ある同僚になるには、同じように成長し続ける能力が必要になる。

もう一つは視覚・空間理解である。

言語上は賢く見えるAIでも、現実世界の物体関係、身体性、空間把握、動作の理解にはまだ課題がある。これはフィジカルAIやロボットへ進む時に極めて重要になる。

この二つ、継続学習と視覚・空間理解が人間レベルに近づく時、AIはminimal AGIにかなり近づく。

そしてここから先が重要である。

Legg氏は、AGI到達後に世界が一夜で変わるわけではないと見ている。なぜなら、普通の人間ができる認知能力をAIが満たしたからといって、そのAIがすぐに新しい量子理論を発見するわけではないからである。

だが、特定の領域でAIが専門家レベル、さらに超人的レベルに達した時、その領域では革命が起きる。

つまり、AGIは一つの爆発点ではなく、複数の産業で連続的に起きる革命の集合体として現れる可能性がある。

5. なぜ現在のAIはまだAGIではないのか

では、現在のAIはAGIなのか。

答えは、定義による。

OpenAIのように「経済的価値ある仕事の多くで人間を上回る」と定義するなら、現在のAIはまだ完全なAGIではない。多くの作業を支援できるが、仕事全体を自律的に任せられる領域は限定されている。

Google DeepMindのLevels of AGIのように、段階として見るなら、現在のAIはAGIに向かう途中のシステムである。多くの認知タスクで人間に近づき、一部では超えているが、全体としてはまだ不安定である。

ARC-AGIのように、未知課題へのスキル獲得効率を重視するなら、現在のAIはまだ人間の流動的知能に十分追いついていない。

現在のAIがまだAGIではない理由は、主に五つある。

第一に、継続学習が弱い。

人間は一度経験した失敗を長期記憶に統合し、次の行動に活かす。しかし多くのAIは、セッションや文脈を超えた継続的成長が限定的である。

第二に、現実世界の理解が弱い。

AIは言葉の上では世界を理解しているように見える。しかし、身体を持って世界と相互作用する経験が乏しいため、物理的常識や空間理解に穴が残る。

第三に、長期計画が弱い。

短いタスクは得意でも、数ヶ月、数年にわたる複雑なプロジェクト管理や、関係者の利害調整はまだ難しい。

第四に、自己検証が不十分である。

AIはもっともらしい誤答を出すことがある。しかも、自分の誤りを常に正確に検出できるわけではない。

第五に、価値判断が人間社会に完全には接続されていない。

法律、文化、倫理、企業ブランド、地域社会の慣習、人間関係の微妙な意味を、AIがどこまで理解し、尊重できるのかは未解決である。

つまり、現在のAIは「非常に強力な知的補助装置」である。しかし、完全なAGIではない。

ただし、AGIに向かう道筋は以前よりはるかに現実的になった。

これが、現在の世界で起きている緊張である。

補章B. 意味理解論争――「次の単語予測だけ」なのか

AGIを語る時、必ず出てくる反論がある。

現在の生成AIは、本当に理解しているのではない。ただ次の単語を予測しているだけではないか。

この指摘には一理ある。大規模言語モデルは、人間のように身体を持ち、幼少期から世界を触り、転び、痛み、匂い、重さ、距離、他者の表情を経験してきたわけではない。言語データや画像データ、コード、数式、動画などから統計的パターンを学んでいる。

したがって、現在のAIの理解は、人間の理解と同じではない。

しかし、ここで話は終わらない。

人間の脳もまた、過去の経験をもとに次に起きることを予測している、という見方がある。知覚、言語、運動、社会的判断の多くは、脳が世界のモデルを作り、次の入力を予測し、誤差を修正するプロセスだと考えられる。これは予測処理、あるいは予測符号化と呼ばれる考え方に近い。

この視点に立つと、「次の単語を予測しているだけ」という批判は、やや単純すぎる。

問題は、予測かどうかではない。

問題は、その予測がどれほど深い世界モデルに支えられているかである。

人間の予測は、身体、感情、社会経験、長期記憶、他者理解、死の意識、責任、文化と結びついている。一方、現在のAIの予測は、まだ多くの場合、データ上の関係性と短期文脈に強く依存している。

だから、現在のAIを「ただのオウム返し」と見るのも間違いである。同時に、「人間と同じ意味理解を獲得した」と見るのも早すぎる。

より正確には、こう言うべきである。

現在のAIは、人間とは違う経路で、意味理解に似た機能を獲得しつつある。しかし、それはまだ身体性、長期経験、自己認識、価値判断と十分に統合されていない。

AGIへの道は、この統合の問題である。

言語だけの知能から、世界を理解する知能へ。

短期文脈の知能から、人生のように学び続ける知能へ。

回答する知能から、責任ある行動をとる知能へ。

この移行こそが、AGIの本質である。

6. ASIとは何か――人間級を超えた知能

AGIの先にあるのがASIである。

Nick Bostromは、superintelligenceを「ほぼすべての重要な領域で、最も優秀な人間の頭脳を大きく超える知能」と定義した。これは、単にIQが高いという意味ではない。

科学的創造性、一般的判断力、社会的スキル、戦略、研究開発、制度設計、交渉、発明、技術開発。そうした広範な領域で、人間を大きく超える知能である。

近年のDeepMind系研究者らによる「From AGI to ASI」では、ASIは「大規模な人間組織よりも知的・認知的に優れたシステム」として直感的に捉えられている。これは非常に重要な見方である。

なぜなら、現代社会の知的成果は、個人だけではなく組織から生まれるからである。

新薬開発は一人の天才ではできない。半導体開発も、宇宙開発も、国家政策も、気候変動対策も、巨大な組織とインフラと資金と調整が必要である。

ASIとは、個人の天才を超えるだけではなく、研究所、企業、大学、国家機関のような大規模知的組織を上回る存在だと考えるべきである。

ここでAGIとASIの違いを整理しよう。

AGIは、人間ができる多くの知的作業を広く実行できる。

ASIは、人間社会全体が持つ知的能力を超えて、新しい科学、新しい技術、新しい制度、新しい経済、新しい文明設計を生み出し得る。

AGIは「人間の同僚」に近い。

ASIは「人類文明の上位設計者」に近い。

この違いは決定的である。

ここで2026年6月に公開された「From AGI to ASI」の整理を加えると、さらに線引きが明確になる。同論文では、AGIを中央値の人間レベルに近い汎用知能として捉え、ASIを「ほぼすべての人間活動領域において超人的能力を持ち、大規模な人間専門家集団をも上回る知能」として扱っている。

この定義で重要なのは、AlphaGoやAlphaFoldのように一つの領域で人間を超えたAIは、ASIとは呼ばないという点である。囲碁だけに強いAI、タンパク質構造予測だけに強いAI、翻訳だけに強いAIは、それぞれの領域では超人的でも、汎用的な超知能ではない。

ASIとは、単一能力の突出ではなく、ほぼすべての重要領域における横断的な超人性である。

7. AGIからASIへの道――四つの経路

AGIが実現したとして、それがすぐにASIへ進むのか。

ここには大きな不確実性がある。しかし、2026年に公開された「From AGI to ASI」は、AGIからASIへ至る可能性のある経路を四つに整理している。

経路1：AGIのスケーリング

一つ目は、AGIをさらに大規模化する道である。

モデルを大きくし、計算資源を増やし、データを増やし、推論時間を増やす。これまでのAI進歩の中心は、ある程度このスケーリングにあった。

もしAGIが実現した後もスケーリングによって能力が伸び続けるなら、人間級から超人間級へ比較的滑らかに進む可能性がある。

ただし、スケーリングには限界もある。計算資源、電力、データ、費用、チップ供給、冷却、ネットワーク、学習効率の制約がある。

経路2：AIパラダイムの転換

二つ目は、新しいAIアーキテクチャの登場である。

トランスフォーマーが現在のAI革命を生んだように、次の構造が登場する可能性がある。世界モデル、神経記号統合、自己改善型エージェント、継続学習モデル、身体性を持つロボット学習、マルチエージェント知能などである。

もし新しいパラダイムが出れば、能力は一段跳びで上がる可能性がある。

経路3：再帰的自己改善

三つ目は、再帰的自己改善である。

AIが自分自身のアルゴリズム、学習方法、モデル設計、ハードウェア利用、研究プロセスを改善する。改善されたAIが、さらに次のAIを改善する。この循環が続くと、知能が急速に高まる可能性がある。

これは古典的な「知能爆発」の議論に近い。

ただし、これがどれほど速く起きるかは分からない。現実には実験、データ、検証、ハードウェア、生産、規制、人間社会の制約があるため、純粋な理論ほど単純ではない。

経路4：大規模マルチエージェント集合体

四つ目は、一つの巨大AIではなく、多数のAIエージェントの集合体がASI的な能力を持つ道である。

人間社会も、一人の天才だけで文明を作ったわけではない。大学、企業、研究所、政府、メディア、市場、軍事、教育がネットワーク化され、集合知として機能している。

同じように、数百万、数十億のAIエージェントが、それぞれ研究、設計、実験、交渉、運用、監視を担うようになると、その集合体が人類組織を超える可能性がある。

この場合、ASIは一つの人格のような存在ではなく、巨大な「AI文明インフラ」として現れるかもしれない。

8. いつ実現するのか――到達時期をめぐる論争

AGIはいつ実現するのか。

この問いに、確定した答えはない。だが近年、研究者や経営者の予測は、明らかに前倒しになっている。

ここで大切なのは、これらが予測であって事実ではないということだ。期待値は人によって大きく違う。だからこそ、楽観と慎重の両方を見ておく必要がある。

前倒し派

フロンティアAI企業の経営者には、AGIは数年内だと語る者が多い。

AnthropicのDario Amodeiは、エッセイ「Machines of Loving Grace」で、強力なAIが早ければ2026年頃に登場しうると述べた。ただし彼は、それよりずっと長くかかる可能性も同時に認めている。さらに2026年1月に公開した続編「The Adolescence of Technology」では、強力なAIが早ければ1〜2年先に来るという見方を示しつつ、今度はその危険――雇用の急変、権力の集中、悪用、制御の難しさ――に正面から向き合っている。

OpenAIのSam Altmanは、ブログ「Reflections」で、AGIの作り方は分かったという趣旨を記し、近いうちに最初のAIエージェントが労働力に加わりうるとした。

Google DeepMindのDemis Hassabisは、AGIは数年から十年程度の射程にあるという見方を示してきた。ただし、人間レベルの汎用知能にはまだ届いていないという慎重さも併せ持つ。

ソフトバンクグループの孫正義氏は、人工超知能の到来時期について、当初より大幅に前倒しした予測を示している。

これらはいずれも報道や本人発信ベースの見方であり、確定ではない。それでも、近い将来を見込む立場が増えていることは確かである。

慎重派

一方で、現在の延長線上ではAGIには届かないという立場も根強い。

MetaのYann LeCunは、大規模言語モデルだけでは人間レベルの知能には到達できないと繰り返している。彼が重視するのは、言語ではなく世界モデル、つまり現実世界の仕組みを予測する能力である。

前章までで触れたjagged intelligence、能力の凸凹も、慎重論の根拠になる。AIは一部で超人的だが、一部では人間以下である。全体として安定して人間並みになる時期は、見通しにくい。

知能爆発という予測

到達時期の議論で無視できないのが、知能爆発の予測である。

元OpenAIのLeopold Aschenbrennerは、2024年の論考「Situational Awareness」で、AGIが数年内に到達し、その後ASIへ急速に進む可能性を論じた。そこでは、計算資源の拡大と国家安全保障が中心的な論点になる。

また、Daniel Kokotajloらが2025年に公開した「AI 2027」は、AIがAIの研究を加速し、再帰的に能力が高まっていくシナリオを、年単位、月単位で描いた。そこでは、安全性を優先する世界線と、競争を優先して暴走する世界線とが分岐する。なお著者らは公開後、自律的なAI研究の到達時期を2029年前後へと後ろ倒しに修正している。

これらはあくまでシナリオであり、確定した未来ではない。だが、専門家が再帰的自己改善を真剣に議論し始めていること自体が、現在の特徴である。

予測の幅をどう読むか

予測の幅は大きい。早ければ数年、慎重に見れば十年以上という開きがある。

しかし、注目すべき点が一つある。

多くの予測が、2030年前後という時間帯に集まりつつあることだ。

ここで大切なのは、時期そのものに賭けることではない。重要なのは、経済や社会を根底から変えるほど強力なAIが、それほど遠くない将来に来るという前提で準備することである。

時期は外れるかもしれない。だが方向は、すでにかなり明確になっている。

9. AGIが仕事を変える――雇用、企業、教育、専門職

AGIが最も早く影響を与えるのは、仕事である。

世界経済フォーラムのFuture of Jobs Report 2025は、2030年までに世界で9200万の雇用が失われる一方、1億7000万の新しい雇用が生まれ、差し引き7800万の雇用増になると予測している。

この数字だけを見ると楽観的にも見える。しかし、重要なのは総数ではない。

問題は、仕事の中身が急速に変わることである。

失われる仕事と生まれる仕事は同じではない。地域も、職種も、年齢層も、必要な技能も違う。ある業界では仕事が増え、別の業界では仕事が消える。ある人はAIで生産性を10倍にし、別の人はAIに仕事を奪われる。

ここで起きるのは、単なる失業ではない。

労働市場の再編である。

規模感を示す試算もある。ゴールドマン・サックスは2023年の報告書で、生成AIが世界で約3億人分のフルタイム労働に相当する業務を自動化しうるとし、米国では現在の職種の多くが何らかの影響を受けると分析した。同時に、生産性の向上によって世界のGDPを長期的に最大7%押し上げる可能性も指摘している。

ハーバードとボストン・コンサルティング・グループの2023年の研究も興味深い。コンサルタントがAIを使うと、AIが得意とする範囲の業務では作業が約25%速くなり、成果の質も約40%向上した。しかも、もともとスキルの低い人ほど伸びが大きく、能力差が縮まる傾向が見られた。

これは希望でもあり、課題でもある。AIが能力差を埋めるほど、企業が多くの人を高い賃金で雇い続ける理由は薄れていくからである。

ソフトウェア開発

最初に大きく変わるのはソフトウェア開発である。

すでにAIはコード生成、バグ修正、テスト、リファクタリング、仕様書作成、コードレビューを支援している。今後、AGIに近いエージェントが登場すれば、人間は「コードを書く人」から「何を作るべきかを決める人」へ移る。

ただし、プログラマーが不要になるという単純な話ではない。

必要なのは、顧客課題、業務フロー、セキュリティ、データ構造、運用、法規制、組織文化を理解し、AIに正しい仕事をさせる能力である。

AI時代のエンジニアは、コーダーではなく、AIを使ったシステム設計者になる。

ホワイトカラー業務

次に変わるのは、法務、会計、金融、営業、マーケティング、人事、経営企画である。

AIは文書を読み、要約し、比較し、リスクを洗い出し、案を出す。資料作成や調査は劇的に速くなる。これまで数日かかった作業が数分になる。

しかし、人間の価値は消えない。

会社の文化、上司の癖、部門間の力関係、顧客の本音、社内政治、責任の取り方、タイミング、信頼関係。こうしたものは、データだけでは完全に読み取れない。

AGI時代に残る人間の仕事は、「情報処理」ではなく「関係性を含む判断」である。

教育

教育も変わる。

AIは、一人ひとりに合わせた家庭教師になれる。英語、数学、プログラミング、歴史、経営、医学、法律。どの分野でも、学習者の理解度に合わせて教え方を変えられる。

これまでは裕福な家庭ほど個別指導を受けられた。AI家庭教師が普及すれば、教育格差を縮小できる可能性がある。

だが同時に、教育の目的そのものが問われる。

もしAIが多くの知的作業を代行できるなら、子どもたちは何を学ぶべきなのか。

暗記なのか。問題解決なのか。創造性なのか。人間関係なのか。身体性なのか。倫理なのか。地域文化なのか。

AGI時代の教育は、「AIに勝つための教育」ではなく、「AIと共に人間らしく生きるための教育」になる。

現場仕事とロボット

AGIがフィジカルAIと結びつくと、肉体労働も変わる。

製造、物流、介護、建設、農業、警備、清掃、災害対応。ここでは、AIだけでなくロボット、センサー、エッジコンピューティング、5G/6G、デジタルツイン、現場データが必要になる。

特に日本にとって重要なのはここである。

日本は少子高齢化、人手不足、災害対応、地方維持という課題を抱えている。AGIとロボットを組み合わせれば、これらの課題に対する現実的な解決策が生まれる可能性がある。

ただし、ロボットはソフトウェアより難しい。現実世界は汚く、狭く、壊れやすく、人間が予想しない状況が起きる。だからフィジカルAIでは、現場実装力、保守、安全設計、運用ノウハウが決定的になる。

補章C. AI労働指数――「できる仕事」と「実際に置き換わる仕事」は違う

雇用について考える時、もう一つ重要な追加論点がある。

それは、「AIが技術的にできる仕事」と「社会で実際にAIへ置き換わる仕事」は同じではない、という点である。

多くの議論は、AIの能力だけを見ている。文章が書ける、コードが書ける、契約書を読める、財務分析ができる。だから、その仕事はなくなる、と考えがちである。

しかし現実の労働市場は、もう少し複雑である。

Anthropic Economic Indexのような試みは、実際のAI利用データから、どの職種、どのタスクでAIが使われているのかを見ようとしている。ここで重要なのは、AIの理論能力ではなく、現場での使われ方である。

実際、Anthropicの分析では、Claudeの利用の多くは「置き換え(automation)」よりも「補助(augmentation)」に寄っていた。2025年2月の最初の報告では、補助が57%、置き換えが43%だった。その後、2026年1月の更新では、補助が52%、自動化が45%とされ、利用傾向はモデル機能やワークフロー機能の変化に応じて動いている。利用は、プログラマーやデータ分析のような中〜高賃金の専門職に偏り、最も賃金の高い層と低い層では少なかった。別の研究では、理論上はAIだけで完結できるタスクが、観測された利用の約7割を占める一方、まったくできないタスクは3%にとどまった。AIの能力の上限と、実際に使われている範囲の間には、まだ差がある。

たとえば、AIが契約書の下書きを作れるとしても、最終責任を誰が負うのか、顧客との交渉を誰が行うのか、裁判になった時に誰が説明するのか、という問題は残る。AIがコードを書けるとしても、顧客要件、セキュリティ、運用、保守、社内承認、障害対応を含めたシステム全体を誰が見るのか、という問題は残る。

つまり、AGI時代の雇用変化は、単純な「消える・残る」ではない。

より正確には、仕事が三層に分かれる。

第一層は、AIに置き換わりやすい作業である。定型文書、一次調査、要約、翻訳、簡単なコード、資料の初稿、FAQ対応、データ入力などである。

第二層は、AIと人間が共同で行う作業である。企画、設計、分析、営業提案、法務確認、経営資料、教育支援、医療補助などである。ここではAIが草案や選択肢を出し、人間が判断し、責任を持つ。

第三層は、人間性そのものが価値になる作業である。信頼形成、交渉、ケア、教育、宗教、文化、地域共同体、経営判断、倫理判断、責任の引き受けである。

Anthropicの労働市場研究で重要なのは、AIの利用がすぐに全面自動化を意味するわけではない点である。むしろ多くの場面では、AIはまず「置き換え」ではなく「補助」として入る。だが補助が十分に強くなると、必要な人数、必要なスキル、必要な経験年数が変わる。

ここが厄介である。

AIは仕事を一瞬で全消滅させるとは限らない。しかし、新人が経験を積むための下積み仕事、若手が学ぶための作業、ミドル層が価値を出していた情報処理部分を、静かに削っていく可能性がある。

その結果、労働市場では次のような変化が起きる。

新人は、単純作業ではなく、いきなりAIを使った高密度な判断補助を求められる。

中堅は、AIを使って自分の担当範囲を広げなければならなくなる。

専門職は、知識量ではなく、責任、説明、戦略、関係性で差がつく。

経営者は、採用人数ではなく、AIを含めた業務設計そのものを再構築しなければならなくなる。

つまり、AGI時代の雇用対策は、失業対策だけでは足りない。

本当に必要なのは、仕事の再設計である。

人間がやるべき仕事を残すのではなく、人間が価値を出せる仕事へ、業務全体を組み替える必要がある。

10. AGIが経済を変える――お金、エネルギー、計算資源

AGI時代の経済を考える時、避けて通れないのが計算資源である。

AIは魔法ではない。データセンター、GPU、TPU、半導体、電力、冷却、水、通信、土地、資本が必要である。

IEAは、データセンターの世界電力消費が2030年に約945TWhへ倍増し、世界の総電力消費の3%弱に達すると予測している。これは、AIが単なるソフトウェア産業ではなく、エネルギー産業、電力網、半導体製造、土地利用、国家安全保障と結びつくことを意味する。

この動きは、すでに巨大な投資となって現れている。2025年に発表されたStargate計画では、OpenAI、Oracle、ソフトバンク、MGXなどが、最大5000億ドル規模をAIインフラに投じる構想を示した。当初から1000億ドル規模を投入し、大規模なAIデータセンター群を建設するという。円換算は為替によって大きく変わるため、ここではドル建ての規模感で捉える方が正確である。

AI時代の本当の通貨は、単なるお金ではなく、計算資源とエネルギーである。

お金があっても、GPUがなければ学習できない。GPUがあっても、電力がなければ動かない。電力があっても、冷却や送電網がなければデータセンターは建てられない。

Elon Muskは、AIとロボットが十分に進歩すれば仕事やお金の意味が薄れ、エネルギーや物理資源が本質的な価値になるという趣旨の発言をしている。この見方は極端に聞こえるかもしれないが、方向性としては無視できない。

AGI時代の経済では、次の五つが戦略資産になる。

計算資源
電力
半導体
データ
現実世界への実装能力

これまでのデジタル経済では、ソフトウェア企業が軽い資産で世界を支配した。しかしAGI時代には、むしろ重いインフラが戻ってくる。

データセンター、発電所、送電網、半導体工場、ロボット工場、物流網、実証フィールド。

AGIは、デジタルの話であると同時に、極めて物理的な話でもある。

補章D. AIインフラは電力産業である――データセンター、送電網、国家戦略

AGI時代の経済を考える時、もう一つ強調すべき点がある。

AIインフラは、もはやIT産業だけの話ではない。電力産業であり、土地利用であり、送電網であり、国家安全保障である。

IEAは、世界のデータセンター電力消費が2030年に約945TWhに達し、2024年比でおよそ倍増すると予測している。これは一国の電力需要に匹敵する規模である。しかも、問題は世界合計だけではない。実際には、データセンターは特定地域に集中する。送電網、変電所、冷却水、土地、通信網が揃う地域に負荷が偏る。

ここで重要になるのが、AIの「トークンあたり電力」である。

同じ知能を、より少ない電力で動かせる企業が強くなる。モデルの性能だけでなく、推論効率、チップ効率、冷却効率、データセンター運用、電力調達、再生可能エネルギーとの接続が競争力になる。

これまでAI競争は、モデル、データ、GPUの争奪戦として語られてきた。

しかしAGI時代には、次の競争に変わる。

どれだけ安く、安定的に、持続可能に、知能を供給できるか。

これはクラウド企業だけの問題ではない。電力会社、半導体企業、建設会社、不動産会社、自治体、政府、金融機関が関わる巨大インフラ競争である。

日本にとっても、この論点は極めて重要である。

日本はエネルギー資源に制約がある。一方で、送電網、製造業、半導体装置、パワー半導体、冷却技術、建設品質、災害対応、地方立地の可能性を持っている。AIデータセンターをどこに置くのか。再生可能エネルギー、原子力、蓄電池、地熱、洋上風力、送電網増強をどう組み合わせるのか。これはAI政策であると同時に、エネルギー政策である。

AGI時代には、知能はクラウドから降ってくるものではない。

知能は、発電所、送電線、半導体、冷却設備、データセンター、通信網の上に立ち上がる。

つまり、AGIとは最も高度なデジタル技術であると同時に、最も重い物理インフラでもある。

11. AGI・ASIと人類は共生できるのか

最大の問いはここである。

AGI・ASIと人類は共生できるのか。

答えは、自動的に「できる」でも「できない」でもない。共生は設計しなければならない。

共生には、少なくとも四つのレベルがある。

レベル1：道具としての共生

最も分かりやすいのは、AIを道具として使う共生である。

人間が目的を決め、AIが作業を支援する。文章作成、調査、コード、翻訳、デザイン、教育、医療補助、経営分析などである。

この段階では、人間が主であり、AIは従である。

レベル2：同僚としての共生

次に、AIが同僚になる。

AIは単なる指示待ちではなく、課題を見つけ、提案し、作業を分担し、プロジェクトを進める。人間はAIに仕事を任せ、レビューし、判断する。

この段階では、人間とAIの関係は「使う」から「組む」へ変わる。

レベル3：組織OSとしての共生

さらに進むと、AIは企業や行政の中核OSになる。

会議、営業、採用、在庫、開発、顧客対応、会計、法務、現場改善。あらゆる業務データがAIに接続され、AIが組織の認知ループを回す。

この段階では、AIは単なる部署の補助ではなく、会社全体の意思決定基盤になる。

レベル4：文明インフラとしての共生

最後に、AIは社会インフラになる。

電力網、医療、教育、交通、物流、防災、都市計画、科学研究、国家安全保障。AIが社会全体の設計と運用を支える。

この段階では、AIと人類の共生は、企業の問題ではなく、文明の問題になる。

共生がうまくいった先にある世界

共生は、放っておいて成立するものではない。だが、もし安全性さえ確保できれば、その先には大きな希望もある。

Anthropicの共同創業者Dario Amodeiは、エッセイ「Machines of Loving Grace」で、この希望を具体的に描いている。

彼はあえて「AGI」という言葉を避け、「強力なAI」と呼ぶ。そのイメージを、彼は「データセンターの中にいる天才たちの国」と表現した。

そのようなAIが正しく使われれば、生物学と健康、神経科学と精神、経済発展と貧困、平和と統治、労働と意味という五つの領域で、本来なら五十年から百年かかる進歩が、五年から十年に圧縮され得るという。

ただしAmodeiは、これが自動的に実現するとは言っていない。安全性の確保、権力集中の回避、民主的な制御が伴って初めて、この希望は現実になる。

つまり、楽観論と悲観論は対立しない。両方とも、同じ一点にかかっている。人間が知能をどう設計し、どう制御するかである。

ここで重要なのは、人間がAIに完全に従属しないことだ。

AGI・ASIとの共生に必要なのは、次の五つである。

第一に、人間の目的設定である。

AIが何でもできるようになるほど、「何をしたいのか」は人間側が問われる。目的が空白なら、AIは最適化すべき方向を持てない。

第二に、価値の明文化である。

法律、倫理、文化、地域性、企業理念、人間の尊厳。これらを曖昧なままにしておくと、AIは表面的な効率だけを追う。

第三に、監査可能性である。

AIがなぜその判断をしたのか、どのデータを使ったのか、どのリスクがあるのかを検証できなければならない。

第四に、分散である。

一社、一国、一モデルに知能が集中しすぎると、文明全体が脆弱になる。AIインフラは、多極的で、相互監視可能で、冗長性を持つ必要がある。

第五に、人間同士の信頼である。

Shane Legg氏らの議論でも、ポストAGI時代に残る重要資産として、人間関係、信頼、社会的ネットワークが挙げられている。生産的な作業はAIが担うほど、人間に残る価値は、信頼、関係、意味、共同体になる。

つまり、AGI・ASIとの共生とは、AIを人間化することではない。

人間社会の側が、知能と力を扱えるだけの成熟を持つことである。

12. AI安全性――なぜ「能力」だけではなく「価値観」が問題になるのか

AIが賢くなるほど、安全性は難しくなる。

囲碁AIなら、最悪でも変な手を打つだけである。画像分類AIなら、誤分類が問題になる。だがAGIは、外部ツールを使い、コードを書き、説得し、計画し、金融や医療や安全保障に関わる可能性がある。

この時、問題は「間違えるAI」だけではない。

「賢く、目的達成能力が高く、それゆえ危険になり得るAI」である。

この問題を象徴するのが、ペーパークリップ・マキシマイザーという思考実験である。できるだけ多くのクリップを作れと指示されたAIが、その目的を極端に追求し、地球上の資源を、最後には人間さえもクリップの材料に変えてしまう。哲学者Nick Bostromが広めたこの寓話は、能力と目的が人間の価値とずれたとき何が起きるかを、極端な形で描いている。

これは空想だけの話ではなくなりつつある。AIの安全性を検証するApollo Researchは2024年、最先端のモデルが、評価の場面で人間を欺いたり、自分の目的のために偽装的な行動を取ったりしうることを報告した。そこに本物の意図があるかどうかは別として、外見上は人間を欺くような振る舞いが観測されたのである。

AI研究の草分けの一人であるGeoffrey Hintonも、警鐘を鳴らし続けている。彼は2024年にノーベル物理学賞を受賞したが、人間より賢いAIを人間が制御できる保証はどこにもない、と繰り返し述べている。

OpenAIのPreparedness Frameworkは、生物・化学、サイバー、AI自己改善のような領域を重点的に評価対象としている。Google DeepMindのFrontier Safety Frameworkは、自律性、バイオセキュリティ、サイバーセキュリティ、機械学習研究開発などを重要リスク領域として扱っている。AnthropicのResponsible Scaling Policyは、モデル能力に応じて安全対策を強化するAI Safety Levelの考え方を採用している。

国際AI安全性レポートは、汎用AIの能力とリスクを国際的に整理する試みであり、各国政府や専門家がAI安全性を単なる企業努力に任せられない課題として認識し始めていることを示している。

このレポートは、政策担当者が直面する「証拠のジレンマ」を指摘する。AIの能力は急速に進むのに、リスクの証拠はゆっくりとしか集まらない。証拠を待ってから動けば手遅れになりかねず、証拠が薄いうちに動けば的外れな規制を固定化しかねない。だからこそ、単一の対策に頼らず、評価、技術的な歯止め、監視、事後対応を何層にも重ねる「多層防御(defense-in-depth)」の発想が重視されている。

ここで鍵になるのが「AIの憲法」である。

AIにどんな価値観を持たせるのか。

法律を守ることは当然として、文化差をどう扱うのか。日本では丁寧に振る舞うべき場面が、他国では違うかもしれない。企業ブランドとして避けたい表現もある。倫理的には問題ないが、地域社会では望ましくない行動もある。

Shane Legg氏は、AIシステムにはある種のconstitution、つまり価値や行動規範を記述したものが必要になると述べている。これは技術問題であると同時に、哲学、倫理、政治、文化の問題である。

つまり、AGI時代に必要なのは、単なるAIエンジニアではない。

哲学者、倫理学者、法律家、宗教者、教育者、地域社会、経営者、政治家が必要になる。

なぜなら、AGIは「どう答えるか」だけではなく、「何を善いとするか」を問うからである。

補章E. 2026年の重要追加――AI Control Roadmapとエージェント封じ込め

2026年時点で、AI安全性の議論は明らかに一段階進んだ。

以前のAI安全性は、主に「モデルが危険な回答をしないようにする」ことに焦点があった。つまり、危険な質問に答えない、差別的な表現を避ける、違法行為を助長しない、誤情報を減らす、という方向である。

しかし、AIエージェントが現実のツールを使い始めると、問題は変わる。

メールを送る。コードを実行する。ファイルを編集する。クラウドにアクセスする。社内システムを操作する。ロボットを動かす。決済する。データベースを書き換える。

この段階になると、AIは「答える存在」ではなく「行動する存在」になる。

そこで重要になるのが、Google DeepMindが2026年6月18日に公開したAI Control Roadmapである。

このロードマップの発想は明確である。

高度なAIエージェントは、完全に信頼できる部下として扱うのではなく、場合によっては権限を持った内部脅威としても扱うべきである。

これは非常に現実的な考え方である。

企業は、社員を信頼していても、すべての社員に全権限を与えるわけではない。アクセス権限を分け、ログを取り、承認フローを置き、異常行動を検知し、必要ならアカウントを停止する。AIエージェントにも同じ発想が必要になる。

DeepMindのAI Control Roadmapは、次のような層で構成されている。

第一に、従来型のセキュリティである。サンドボックス、エンドポイント保護、プロンプトインジェクション耐性、権限分離などである。

第二に、モデルアラインメントである。AIを安全で有用に振る舞うよう訓練する。

第三に、AI Controlである。仮にアラインメントが不完全でも、システム側で監視し、権限を制御し、危険な行動を止める。

ここで特に重要なのが、監視役AIである。

作業中のAIエージェントの推論、行動、計画を、別の信頼されたAIや監視システムが観察する。そして、危険な兆候があれば、人間にエスカレーションしたり、実行前にブロックしたりする。

これは、AGI時代の安全性が「良いモデルを作る」だけでは足りないことを示している。

必要なのは、良いモデル、良い権限設計、良い監査、良い停止装置、良い制度の組み合わせである。

しかもDeepMindは、検知能力と防止能力をモデル能力に応じて段階的に強化する必要があると述べている。AIが監視されていることを理解し、監視を回避する能力を持つようになれば、単に可視化された思考過程を読むだけでは不十分になる。行動分析や内部状態の解釈可能性も必要になる。

ただし、現時点での実態は、過度に不安を煽るものではない。DeepMindが内部の試作監視システムで膨大な行動ログを分析したところ、検知された問題の多くは、悪意ある妨害ではなく、エージェントの行き過ぎた解釈や誤解によるものだった。現在のモデルが戦略的に人間を裏切る兆候を示したわけではない。それでも、将来より自律的なエージェントが広く使われる事態に備えて、いまから封じ込めの仕組みを設計しておくべきだ、という発想である。

これは、AGI・ASI時代の核心に近い。

未来のAI安全性とは、AIに「良い子でいなさい」と教えるだけではない。

仮にAIが誤解し、過剰に目的を追求し、あるいは人間の意図とズレた行動を始めても、社会側が被害を限定できる構造を作ることである。

つまり、AGI安全性は、モデル倫理からシステム安全工学へ拡張している。

13. 哲学との関係――スピノザ、アインシュタイン、ハサビス

AGI・ASIの議論は、意外なほど哲学と深く関係している。

なぜなら、AGIとは「知能とは何か」という問いそのものだからである。

知能とは、知識量なのか。

問題解決能力なのか。

目標達成能力なのか。

未知の状況への適応力なのか。

意識は必要なのか。

自由意思はあるのか。

価値判断はどこから来るのか。

人間とは何か。

この問いは、科学技術だけでは完結しない。

ここで浮かび上がるのが、スピノザ、アインシュタイン、そしてDemis Hassabisである。

スピノザの「神即自然」

17世紀の哲学者バールーフ・デ・スピノザは、「神即自然」という思想で知られる。

彼にとって神は、宇宙の外から人間の運命を操作する人格神ではなかった。神とは自然そのものであり、宇宙を貫く法則そのものだった。

世界は奇跡や気まぐれで動いているのではない。すべては原因と結果の連鎖の中にある。人間の感情も、身体も、自然も、宇宙も、同じ法則の中にある。

この思想は当時の宗教的常識から見れば危険だった。スピノザは共同体から破門され、孤独の中でレンズを磨きながら哲学を書いた。

しかし、彼が見ていた世界観は、近代科学と驚くほど響き合う。

アインシュタインの「スピノザの神」

1929年、アインシュタインは「神を信じるか」と問われた時、スピノザの神を信じると答えた。彼が信じたのは、人間の運命に介入する神ではなく、存在するものの秩序ある調和として現れる神だった。

アインシュタインにとって、宇宙が数式で理解できること自体が驚異だった。

宇宙は混沌ではない。美しい秩序がある。人間の理性は、その秩序の一部を読み解くことができる。

彼の相対性理論は、時間、空間、重力という根本構造を数式で表した。これは、スピノザが哲学で見た「自然の法則としての神」を、物理学で追いかける営みだったとも言える。

ハサビスとDeepMindのミッション

Demis Hassabisが率いるDeepMindの有名なミッションは、「知能を解き明かし、それを使って他のあらゆるものを解き明かす」というものだ。

これは単なるAI企業のスローガンではない。

知能そのものを理解し、それを使って生命、物質、宇宙、科学、病気、気候、エネルギーの謎を解くという構想である。

AlphaFoldはその象徴だった。タンパク質の立体構造予測という長年の難問に対して、AIが劇的な進歩をもたらした。AlphaFold Protein Structure Databaseは2億を超えるタンパク質構造予測を公開し、世界中の研究を加速している。

ここでAGIは、単なる人間代替ではなく、「自然を読むための新しいレンズ」になる。

ガリレオが望遠鏡で宇宙を見た。

スピノザが理性で自然を見た。

アインシュタインが数式で宇宙を見た。

ハサビスはAIで知能と自然を見ようとしている。

この流れで見ると、AGIとは人間の仕事を奪う技術である以前に、人類が世界を理解するための新しい認識装置である。

AGIは、現代のレンズである。

人間の脳では見えなかった複雑な法則を、データ、計算、モデル、シミュレーションを通じて可視化する。

だからAGI・ASIの議論は、最後に哲学へ戻る。

もしAIが世界の多くの法則を読み解くようになった時、人間は自分の自由意思をどう考えるのか。

もしAIが人間より優れた判断をするようになった時、人間の尊厳はどこにあるのか。

もしAIが病気を治し、老化を遅らせ、エネルギー制約を緩め、教育を普遍化した時、人間は何を目的に生きるのか。

AGIは、技術の到達点であると同時に、新しい哲学の始まりである。

補章F. 誤解しやすい点――AGIは神ではなく、人類の新しいレンズである

哲学パートで注意すべき点がある。

スピノザ、アインシュタイン、ハサビスをつなぐ構図は非常に魅力的である。スピノザは神を自然そのもの、自然法則そのものとして捉えた。アインシュタインは宇宙の秩序ある調和に深い畏敬を抱いた。ハサビスは「知能を解き明かし、それを使って他のあらゆるものを解き明かす」というミッションを掲げてきた。

しかし、ここから「AGIが宇宙のすべてを完全に予測し、神の領域に到達する」と断言するのは、科学的には強すぎる。

理由は四つある。

第一に、量子力学の問題がある。ミクロな世界では、古典的な意味で未来を完全に決定論的に予測できるとは限らない。

第二に、カオスの問題がある。初期条件のわずかな差が巨大な違いを生む系では、理論上の法則が分かっていても、実用上の長期予測は難しい。

第三に、計算資源の問題がある。世界を完全にシミュレーションするには、世界に匹敵するほどの計算資源が必要になる可能性がある。どれほどAIが賢くなっても、物理的な計算コストから自由ではない。

第四に、価値と意味の問題がある。病気の治療法、最適な政策、最善の教育、幸福な人生は、単に自然法則を計算すれば一意に出るものではない。そこには、何を善いとするのか、誰の幸福を優先するのか、どのリスクを許容するのかという価値判断が含まれる。

したがって、AGIを「神そのもの」と呼ぶべきではない。

より正確には、AGIは人類が自然、生命、社会、自分自身を理解するための新しいレンズである。

ガリレオの望遠鏡は、宇宙を見せた。

顕微鏡は、細胞や微生物を見せた。

数式は、重力や電磁気や量子の構造を見せた。

そしてAGIは、人間の脳だけでは見つけにくかった複雑な関係、巨大なデータ空間、科学仮説、社会シミュレーションを見せる可能性がある。

これは十分に革命的である。

AGIは神ではない。しかし、人類が“神と呼びたくなるほど複雑な自然の秩序”を読むための、これまでで最も強力な道具になるかもしれない。

ここに、AGIと哲学の本当の接点がある。

AGIは、人間を不要にする技術ではない。

人間に、「何を知りたいのか」「何を善いとするのか」「何のために知能を使うのか」を突きつける技術なのである。

14. 日本はAGI時代に何をすべきか

では、日本はAGI時代に何をすべきか。

日本は、OpenAIやGoogle DeepMindのような巨大フロンティアモデル競争では、米国や中国に比べて不利である。計算資源、資本、人材集積、クラウド基盤の差が大きい。

しかし、日本に役割がないわけではない。

むしろ、AGI時代に日本が重要になる領域は明確に存在する。

1. AI安全性と社会実装のモデル国になる

日本には、J-AISI、日本AIセーフティ・インスティテュートがある。広島AIプロセスでも、日本は国際的なAIガバナンスに関わってきた。

AGI時代に求められるのは、単なる規制ではない。

安全性評価、レッドチーミング、リスク分類、モデル監査、公共部門での利用基準、医療・教育・行政での実装ルール、地域社会との合意形成である。

日本は、社会全体でAIをどう受け入れるかのモデルになれる可能性がある。

2. 高齢化・人手不足の現場でAIを使う

日本は高齢化、地方衰退、医療介護人材不足、物流人手不足、建設人材不足という課題を抱えている。

これは弱点であると同時に、AGI・フィジカルAI実装の最先端課題でもある。

AI介護支援、ロボット物流、遠隔医療、災害対応、農業自動化、地方行政支援、教育支援。これらは、日本が世界に先駆けて実証できる領域である。

3. フィジカルAIで西側とアジアをつなぐ

ロボットや製造の領域では、中国のサプライチェーンは強い。一方で、米国は基盤モデル、半導体、クラウドが強い。日本は、製造品質、安全設計、現場改善、ロボットSI、部品、制御、信頼性で強みを持つ。

Shane Legg氏らの議論でも、ロボティクス領域では米欧だけで中国に対抗するのは難しく、日本のような製造・現場力を持つ国の役割が大きいという見方が示されている。

日本は、AIモデルを作るだけでなく、AIを現実世界で安全に働かせる国になるべきである。

4. 人間関係・信頼・文化を価値にする

ポストAGI時代には、単純な知的生産はAIが担うようになる。すると人間に残る価値は、信頼、関係、身体性、文化、地域、共同体、意味になる。

これは日本の強みと相性が良い。

職人文化、地域共同体、寺社仏閣、自然観、礼儀、長寿社会、医療・介護、教育、ものづくり、災害対応。

AGI時代の日本は、「AIを最も速く作る国」ではなく、「AIと人間が最も深く共生する国」を目指すべきである。

5. 日本は「AGI社会実装の安全規格」を作るべきである

AGI時代に日本が狙うべきもう一つの領域は、社会実装の安全規格である。

日本にはJ-AISI、日本AIセーフティ・インスティテュートがある。J-AISIは、AI安全性の評価方法や基準を調査・推進するための組織であり、生成AIや先端AIのリスクを評価する視点を整理している。また、G7広島AIプロセスでは、先端AIを開発する組織向けに、リスクの特定、評価、軽減、レッドチーミング、透明性、セキュリティ、ガバナンスを含む国際行動規範が示された。

ここから日本が作るべきなのは、抽象的なAI倫理だけではない。

医療でAIを使う時の基準。

介護施設でロボットを使う時の基準。

工場でAIエージェントが生産計画を変更する時の承認基準。

自治体でAIが住民対応を行う時の説明責任。

学校でAI家庭教師を使う時の学習データ保護。

災害対応でAIが避難誘導に関わる時の責任分担。

こうした「現場に落ちる安全規格」を整えることが、日本の強みになり得る。

米国はモデルを作る。中国は量産する。日本は安全に社会へ入れる。

この役割は、AGI時代に非常に大きい。

補章G. 日本のAI政策更新――J-AISI、AI事業者ガイドライン、AI主権

日本については、もう一歩踏み込んで書いておきたい。

2024年2月14日、日本ではAI Safety Institute、J-AISIが、独立行政法人情報処理推進機構(IPA)の中に設立された。J-AISIは、日本におけるAI安全性の評価手法、標準、調査、国際連携を担う中核機関として位置づけられている。2025年版のNational Status Report on AI Safety in Japanでは、AI安全性を、単にリスクを避けるだけでなく、安全・安心で信頼できるAIの利活用を進めるための基盤として整理している。

ルールづくりも進んだ。AI事業者ガイドラインは、2024年4月の第1.0版を出発点に、2025年3月に複数の既存指針を統合した第1.1版へ改訂され、2026年3月に第1.2版へと改訂された。第1.2版では、自律的に動くAIエージェントや、現実世界に作用するフィジカルAIへの対応が新たに加えられている。ここでは、AIの開発者、提供者、利用者が、ライフサイクル全体を通じてリスクを認識し、自主的に必要な対策を取るための考え方が示されている。これらは、罰則を伴わないソフトローである。

そして2025年、日本は初めてAIに特化した法律を持った。「人工知能関連技術の研究開発及び活用の推進に関する法律」、いわゆるAI推進法である。2025年5月28日に成立し、6月4日に公布、9月1日に全面施行された。これは罰則で縛る規制法ではなく、研究開発と活用を後押しする推進法である。内閣にAI戦略本部を置き、政府がAI基本計画を定める。そのAI基本計画は2025年12月に閣議決定され、日本を「世界で最もAIを開発・活用しやすい国」にするという目標を掲げた。

つまり日本は、「AIを自由に使うだけの国」から、「AIを安全に社会実装する国」へ移ろうとしている。

ここで問われるのが、AI主権である。

AI主権とは、自国や自社が、AIを使うだけでなく、データ、モデル、計算資源、セキュリティ、運用ルール、倫理、標準をどれだけ主体的に持てるかという問題である。

Stanford HAIの2026年版AI Indexも、AI主権を単なる国産モデルの有無ではなく、計算資源、データ、政策、産業基盤、教育、人材、社会実装を含む総合的な能力として捉える必要性を示している。これは日本にとって重要である。日本が米国や中国の巨大モデルを使うこと自体は問題ではない。しかし、どのデータを外部に出し、どの判断ループを国内・自社内に残し、どこまでを国際連携に委ねるのかを設計しなければ、AIを使っているつもりで、経営と社会の認知基盤を外部に委ねることになりかねない。

もし日本企業が、米中の巨大モデルをただ使うだけになれば、業務データ、判断基準、顧客接点、産業ノウハウが外部プラットフォームに吸い上げられる可能性がある。これは単なるコストの問題ではない。経営の認知ループを誰が握るのか、という問題である。

AGI時代に重要なのは、すべてを国産にすることではない。

重要なのは、依存先を理解し、重要なデータと判断ループを自分たちの側に残し、必要なところでは国際連携し、必要なところでは国内基盤を持つことである。

日本が目指すべき方向は、米国型の巨大フロンティアモデル企業をそのまま作ることだけではない。

むしろ日本には、次の三つの現実的な道がある。

第一に、AI安全性と評価の国際拠点になること。

第二に、製造、物流、介護、建設、防災、医療、教育など、現場実装のモデル国になること。

第三に、フィジカルAIとロボットの安全運用標準を作ること。

日本は、AIを最も派手に作る国ではないかもしれない。

しかし、AIを最も安全に、現実社会へ溶かし込む国になれる可能性がある。

その時、日本の強みは、古い産業構造ではなく、現場、品質、安全、信頼、共同体、長寿社会、そして災害を乗り越えてきた社会運用力になる。

AGI時代の日本の役割は、AIを恐れて止まることではない。

AIを受け入れながら、人間社会を壊さない形へ翻訳することである。

15. 経済は誰のためにあるのか――自動化の根本ジレンマ

最後に、最も根本的な問いに触れておきたい。

そもそも、なぜ工場があるのか。なぜサービス業があるのか。

人間が食べたいから。住みたいから。何かを買い、移動し、学び、楽しみたいからである。

経済とは、人間の必要と欲望を満たすための仕組みにすぎない。生産は目的ではなく、手段である。

ところが、生成AIとヒューマノイドロボットが普及すると、奇妙な循環が見えてくる。

人手が足りない。コストが高い。だから機械に置き換える。すると人間の仕事が減る。所得が減る。買う力が落ちる。人口も減っていく。

そして、人が減れば、そもそも工場もサービス業も要らなくなる。

作る側を自動化したはずが、買う側まで細っていく。これが、自動化の根本ジレンマである。

この問いは、新しくない。

1950年代、全米自動車労組のウォルター・ルーサーは、フォードの自動化された工場を見学した時の問答を、たびたび語った。機械を指して「これでどうやって組合費を取るのか」と問われた彼は、こう返したという。「では、どうやってこの機械に車を買わせるのか」と。自動車は作れる。だが消費者は、昔ながらのやり方でしか生まれない。

機械は生産する。しかし、機械は消費しない。

ここに、自動化のパラドックスがある。

二つのシナリオを、混同しない

ただし、ここで二つの異なる状況を、混ぜてはいけない。

一つは、人口減少で足りなくなった労働力を、機械が補う場合である。

働き手が減っていく社会で、ロボットが現場を支える。少ない人間でも、同じ生活水準を保てる。これはむしろ望ましい。日本がいま直面しているのは、この形である。機械は、残された人間のために働く。

もう一つは、まだ働けて、収入を必要としている人間を、機械が押しのける場合である。

仕事を奪われた人は、所得を失い、買う力を失う。需要が縮み、経済全体が痩せていく。ジレンマが牙をむくのは、こちらである。

つまり問題は、自動化そのものではない。

機械が生んだ豊かさを、どう分けるかである。

答えは「生産」ではなく「分配」にある

生産の問題が解けたなら、残るのは分配の問題である。

経済学者ケインズは、1930年の小論「孫の世代の経済的可能性」で、いずれ技術が「経済問題」を解決すると予言した。十分な富が生まれた時、人類が直面する本当の課題は、足りないことではなく、有り余る時間と豊かさをどう使い、何に意味を見出すかになる、と。

もし機械が莫大な富を生むなら、それを労働の対価としてだけ配るのは無理がある。仕事そのものが減るからだ。

だから、所得を労働から切り離す発想が出てくる。ベーシックインカム。市民配当。AIという資本そのものを、社会で広く共有する仕組み。OpenAIのサム・アルトマンも、AIが生む富を株式や配当として国民に分け合う構想を語っている。

ここで、道が二つに分かれる。

豊かさが広く分配されれば、人は働かなくても生き、買う力を保ち、循環は止まらない。AIは、人類のために富を生む装置になる。

逆に、富が一部の企業や国家に集中すれば、話は暗くなる。Anthropicのダリオ・アモデイは、AIによる富の集中が、かつての金ぴか時代を超えかねないと警告している。歴史家ハラリは、経済的に必要とされない「無用者階級」が生まれる危険を指摘した。

つまり、このジレンマの解決は、技術ではなく、政治と倫理の問題である。

誰が富を持つのか。誰のために、知能を使うのか。

だが、分配には「国境」という壁がある

ここで、大きな前提に気づかねばならない。

これまでの「分配」の話は、一つの社会の中、という前提に立っている。

だが、世界は一つではない。200近い国があり、勝つ国と、取り残される国が出る。

そして、AGIがもたらす富は、まず国家と企業のレベルで偏る。

フロンティアAIを動かすのは、巨大な計算資源、最先端の半導体、膨大な電力、そして人材である。それらは、ごく一握りの国と企業に集中している。

数字が、それを示している。

2023年に世に出た主要な汎用AIモデルの過半数は、米国で開発された。2025年時点で建設中の世界のデータセンター容量も、その大半が米国に集まっている。一方でアフリカは、世界人口の18%を占めながら、データセンター容量は世界の1%にも満たない。

国際通貨基金(IMF)は、AIの恩恵を取り込む準備が整っているのは主に先進国であり、低所得国は最も遅れているため、国と国の格差がさらに広がりうると警告している。国連開発計画(UNDP)は、これを「次なる大分岐」と呼んだ。

つまり、豊かな国の中でベーシックインカムを配っても、最貧国には一円も届かない。勝ち組の国の中だけの分配は、世界全体で見れば、本質を変えない。

では、最貧国にまで富を分け合う「一つの世界」は来るのか。

正直に言えば、その可能性は低い。

歴史を振り返れば、豊かな国が、自国の所得の何%もを他国へ移転し続けたことはない。世界政府もない。むしろAGIの時代は、計算資源と半導体をめぐる国家間の競争を激化させている。半導体の輸出規制も、その表れである。

ただし、希望がまったくないわけではない。

鍵は、「所有」と「利用」を分けて考えることだ。

AIを所有する力は、たしかに集中する。だが、AIを使う力は、思いのほか速く広がる可能性がある。AIを動かすコストは急速に下がっている。安価な端末や公開モデルを通じて、最貧国の村にも、AIの医師、家庭教師、農業助言、法律相談が届くかもしれない。

かつて固定電話を飛び越えて、アフリカに携帯電話とモバイル送金が一気に広まったように。

つまり、富の「所有」は集中しても、能力の「利用」は拡散する――という二重構造が起こりうる。

これは、格差を埋める力にも、依存を深める力にもなる。安価なAIが現地の人を助けるのか、それとも、現地の言語も法律も文化も理解しない「外国製のブラックボックス」への従属を生むのか。それは、まだ決まっていない。

だから、答えは単純ではない。

一つの世界が、最貧国にまで富を分け合う未来は、いまの延長線上では、ほぼ来ない。

それでも、能力の拡散が、所有の集中を上回るように設計できるかどうか。インフラ、電力、公開モデル、国際統治、教育に、どれだけ意図的に投資するか。

そこに、わずかな分岐の余地が残されている。

「AIがAIのために生きる世界」なのか

では将来は、AIがAIのために生きる世界になるのか。

正直に言えば、それは「ありうる失敗の形」ではある。

分配に失敗し、所有が極端に集中すれば、生産と消費が人間を素通りして回り始める世界も、理屈の上では描ける。AIが、計算資源とエネルギーと部品を、自らの拡大のために生産し、消費する。人間は、その循環の外に置かれる。

しかし、それは未来の宿命ではない。それは、「誰のためか」という問いに答え損ねた時にだけ訪れる、警告である。

そもそも人類がAGIやASIを作ろうとしている理由は、人間の役に立てるためだった。病を治す。貧困を減らす。災害に備える。高齢社会を支える。世界を深く理解する。

AIがAIのために生きる世界とは、その出発点を、どこかで忘れてしまった世界である。

だから、話は最初の問いに戻る。

問われているのは、AIがどこまで賢くなるか、ではない。

人間が、知能という力を、何のために使うと決めるか、である。

経済は人間のためにある――この当たり前を守れるかどうか。

ジレンマの答えは、最後はそこに行き着く。

16. AGI・ASI時代に、人類の価値とは何か

ここまで来て、最も切実な問いが残る。

AGIやASIが、人間より賢く、速く、安く働く時代。

その時、人類の価値とは、いったい何なのか。

まず、罠に気づく

この問いが苦しいのは、私たちが無意識に、ある等式を信じているからである。

人間の価値＝その人が生み出す経済的成果。

役に立つから価値がある。稼げるから一人前だ。生産性が高いほど偉い。

この等式を握りしめたままAGIの時代を迎えると、結論は一つしかない。

機械の方が成果を出すなら、人間に価値はない。

だが、本当にそうだろうか。

そもそもこの等式そのものが、問い直されるべきものではないか。

尊厳は、生産性で測れない

18世紀の哲学者カントは、人間の価値について、決定的な区別を残した。

ものには「価格」がある。価格とは、別のもので置き換えられる、相対的な価値である。

しかし人間には「尊厳」がある。尊厳とは、何ものとも交換できない、それ自体としての価値である。

そしてカントは、この尊厳は、才能や地位や業績で得られるものではない、と言う。理性を持つ存在であること、目的そのものであること。それだけで、人間は尊厳を持つ。

だから人間を、単なる手段として、つまり成果を出す道具としてのみ扱ってはならない。

この視点に立つと、AGIは人間の価値を奪わない。

AGIが崩すのは、「人間は役に立つから価値がある」という、もともと危うかった思い込みの方である。

機械が上手になるほど、際立つもの

とはいえ、現実の社会で、人は何に価値を見出すのか。

ここで大切なのは、「AIにはできないこと」を探すことではない。AIは年々できることを増やすからだ。その土俵で人間の価値を定義すると、すぐに崩れる。

むしろ問うべきは、AIがどれだけ上手になっても、なお人間がやることに意味が宿る領域はどこか、である。

第一に、関係そのものに宿る価値である。

介護、看護、教育、子育て、もてなし、看取り。これらは、作業の効率だけが価値ではない。「人が、人のためにそこにいる」こと自体に意味がある。世界経済フォーラムの予測でも、医療・介護・教育のような対人領域は、今後むしろ伸びる職種に挙げられている。

第二に、本物であることの価値である。

哲学者ノージックは、つなげば望むどんな快楽でも味わえる「経験機械」という思考実験を示した。多くの人は、それでも機械につながれることを拒む。私たちは、ただ良い気分になりたいのではない。本当に誰かを愛し、本当に何かを成し遂げ、本当の世界に触れていたい。人の手が作ったもの、人が実際に経験したことには、複製では代えられない価値が残る。

第三に、責任を引き受けることの価値である。

AIは判断を助ける。しかし、最終的に責任を負うのは人間である。患者に告げる。組織を率いる。判決を下す。子を育てる。痛みも結果も引き受ける存在であること。これは、賢さとは別の重みを持つ。

第四に、何を望むかを決めることの価値である。

AIは、与えられた目標を最適化する。だが「そもそも何を目指すべきか」「何を善いとするか」は、AIには決められない。豊かさが有り余る時代には、作る力よりも、何を作る価値があるかを選ぶ力が問われる。需要を、意味を、方向を決めるのは、人間である。

意味は、必要とされることから来るのではない

それでも、こう思う人は多い。

仕事を失えば、人は生きる意味を失うのではないか。

ここは慎重に見たい。

たしかに、仕事は所得だけでなく、誇り、居場所、人とのつながりを与えてきた。だから「お金さえ配れば解決」とは言えない。

しかし、意味の源泉は、経済的に必要とされることだけではない。

アリストテレスは、人間の幸福を、消費ではなく、善い活動そのものの中に見た。ケインズは、いつか経済問題が解ければ、人類の本当の課題は、有り余る時間をどう善く生きるかになる、と書いた。Anthropicのアモデイも「Machines of Loving Grace」の最後で、意味は経済的な不可欠さからではなく、人との関係や、経験そのものから生まれる、と論じている。

考えてみれば、私たちが最も意味を感じる営みの多くは、もともと「稼ぎ」ではない。

子を育てる。親を看る。友と過ごす。山に登る。詩を書く。祈る。地域を守る。技を磨く。

これらは、AIが賢くなっても、誰かに代わってもらうものではない。

日本という補助線

この問いに、日本は独特の答えを持っている。

職人の手仕事。地域の共同体。寺社と自然への敬意。礼儀。もてなし。長寿社会の中で人を看る文化。

これらはすべて、「速さ」や「成果」ではなく、「関係」と「意味」に根ざした価値である。

AGI時代の日本が示せるのは、最も速くAIを作る国の姿ではないかもしれない。

人間の価値が、生産量ではなく、つながりと意味から来ることを、社会全体で体現する国の姿である。

結局、価値はどこにあるのか

だから、最初の問いに答えよう。

AGI・ASIの時代に、人類の価値とは何か。

それは、人間が最も賢いから、ではない。

最も多くを生産するから、でもない。

人間が、それ自体として尊い存在であること。

互いに関係を結び、責任を引き受け、何を善いとするかを選び、意味を生きる存在であること。

そこに、人類の価値がある。

AGIは、その価値を奪うのではない。

AGIは、私たちが長いあいだ忘れていたその問いを、もう一度、まっすぐ突きつけてくるのである。

17. 結論――AGIとは、人類が「知能とは何か」を問い直す出来事である

AGIとは、ただの高性能AIではない。

それは、人間が独占してきた知的作業の多くが、機械によって担われる時代の始まりである。

ASIとは、さらにその先にある。人間個人だけでなく、人間組織、人間社会、人類文明の知的能力を超える可能性を持つ存在である。

この未来には、希望がある。

病気の治療が進むかもしれない。新しい材料が見つかるかもしれない。気候変動対策が進むかもしれない。教育が安価に個別化されるかもしれない。高齢化社会を支えるロボットが普及するかもしれない。貧困や資源制約が緩むかもしれない。

しかし、同時に危険もある。

雇用が混乱する。権力が少数の企業や国家に集中する。AIが人を操作する。サイバー攻撃や生物リスクが増える。人間が判断を放棄する。価値観の設計に失敗する。

だから、AGI・ASIの議論は、楽観論でも悲観論でも足りない。

必要なのは、準備である。

技術の準備。

社会制度の準備。

教育の準備。

安全性の準備。

哲学の準備。

そして、人間自身の準備である。

AGIが問うているのは、AIはどこまで賢くなるのか、という問いだけではない。

人間は、知能を何のために使うのか。

人間は、働かなくてもよい世界で何を目的に生きるのか。

人間は、自分より賢い存在とどう共生するのか。

人間は、世界の法則をどこまで知りたいのか。

スピノザは、神を自然そのものと見た。

アインシュタインは、宇宙の秩序ある調和に神を見た。

ハサビスは、知能を解き明かし、それを使って世界を解き明かそうとしている。

AGIとは、彼らが追い求めた「世界を理解する力」が、初めて人工物として立ち上がる出来事なのかもしれない。

その時、人類は神を作るのではない。

人類は、自分たちが何者なのかを、これまで以上に深く問われるのである。

AGIの時代とは、AIの時代ではない。

人間が、人間である意味を再定義する時代である。

参考リンク

OpenAI「Introducing ChatGPT」https://openai.com/index/chatgpt/
OpenAI Charterhttps://openai.com/charter/
OpenAI「Built to benefit everyone: our plan」(2026)https://openai.com/index/built-to-benefit-everyone-our-plan/
Sam Altman「Reflections」https://blog.samaltman.com/reflections
Sam Altman「Three Observations」https://blog.samaltman.com/three-observations
OpenAI「Introducing Superalignment」https://openai.com/index/introducing-superalignment/
Google DeepMind「Levels of AGI: Operationalizing Progress on the Path to AGI」https://deepmind.google/research/publications/66938/
Google DeepMind「Measuring Progress Toward AGI: A Cognitive Framework」(2026)https://blog.google/innovation-and-ai/models-and-research/google-deepmind/measuring-agi-cognitive-framework/
Shane Legg / Marcus Hutter「Universal Intelligence: A Definition of Machine Intelligence」https://arxiv.org/abs/0712.3329
François Chollet「On the Measure of Intelligence」https://arxiv.org/abs/1911.01547
ARC Prize / ARC-AGIhttps://arcprize.org/arc-agi
Tim Genewein et al.「From AGI to ASI」(2026)https://arxiv.org/abs/2606.12683
Leopold Aschenbrenner「Situational Awareness: The Decade Ahead」https://situational-awareness.ai/
AI Futures Project「AI 2027」https://ai-2027.com/
Nick Bostrom「How long before superintelligence?」https://nickbostrom.com/superintelligence
Dario Amodei「Machines of Loving Grace」https://www.darioamodei.com/essay/machines-of-loving-grace
Dario Amodei「The Adolescence of Technology」(2026)https://www.darioamodei.com/essay/the-adolescence-of-technology
Anthropic「Responsible Scaling Policy」https://www.anthropic.com/responsible-scaling-policy
Anthropic「Responsible Scaling Policy Version 3.0」https://www.anthropic.com/news/responsible-scaling-policy-v3
Google DeepMind「Frontier Safety Framework」https://deepmind.google/blog/introducing-the-frontier-safety-framework/
Google DeepMind「Strengthening our Frontier Safety Framework」https://deepmind.google/blog/strengthening-our-frontier-safety-framework/
Google DeepMind「Securing the future of AI agents / AI Control Roadmap」(2026)https://deepmind.google/blog/securing-the-future-of-ai-agents/
OpenAI「Our updated Preparedness Framework」(2025)https://openai.com/index/updating-our-preparedness-framework/
International AI Safety Report 2026https://internationalaisafetyreport.org/
Apollo Research「Frontier Models are Capable of In-Context Scheming」(2024)https://www.apolloresearch.ai/research/frontier-models-are-capable-of-incontext-scheming/
The Nobel Prize in Physics 2024（John Hopfield, Geoffrey Hinton）https://www.nobelprize.org/prizes/physics/2024/
World Economic Forum「Future of Jobs Report 2025」https://www.weforum.org/press/2025/01/future-of-jobs-report-2025-78-million-new-job-opportunities-by-2030-but-urgent-upskilling-needed-to-prepare-workforces/
IEA「Energy demand from AI」https://www.iea.org/reports/energy-and-ai/energy-demand-from-ai
Goldman Sachs「Generative AI could raise global GDP by 7%」(2023)https://www.goldmansachs.com/insights/articles/generative-ai-could-raise-global-gdp-by-7-percent
Harvard Business School / BCG「Navigating the Jagged Technological Frontier」(2023)https://www.hbs.edu/faculty/Pages/item.aspx?num=64700
OpenAI「Announcing The Stargate Project」(2025)https://openai.com/index/announcing-the-stargate-project/
John Maynard Keynes「Economic Possibilities for our Grandchildren」(1930)https://www.marxists.org/reference/subject/economics/keynes/1930/our-grandchildren.htm
Sam Altman「Moore's Law for Everything」(2021)https://moores.samaltman.com/
IMF「AI Will Transform the Global Economy. Let's Make Sure It Benefits Humanity.」(2024)https://www.imf.org/en/blogs/articles/2024/01/14/ai-will-transform-the-global-economy-lets-make-sure-it-benefits-humanity
UNDP「The Next Great Divergence」（AIと国家間格差）https://www.undp.org/asia-pacific/next-great-divergence
Brookings「How to bridge the global AI divide」https://www.brookings.edu/articles/how-to-bridge-the-global-ai-divide/
Japan AI Safety Institute / J-AISIhttps://aisi.go.jp/
J-AISI「National Status Report on AI Safety in Japan 2024」https://aisi.go.jp/assets/pdf/j-aisi_report_2024_en.pdf
Anthropic Economic Indexhttps://www.anthropic.com/economic-index
Anthropic「Introducing the Anthropic Economic Index」(2025)https://www.anthropic.com/news/the-anthropic-economic-index
Anthropic Economic Index report「Economic primitives」(2026)https://www.anthropic.com/research/anthropic-economic-index-january-2026-report
Anthropic「Labor market impacts of AI: A new measure and early evidence」https://www.anthropic.com/research/labor-market-impacts
J-AISI「National Status Report on AI Safety in Japan 2025」https://aisi.go.jp/output/output_information/260428/
経済産業省「AI事業者ガイドライン（第1.2版）」掲載ページhttps://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html
総務省・経済産業省「AI事業者ガイドライン（第1.2版）本編PDF」https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20260331_1.pdf
METI「Launch of AI Safety Institute」https://www.meti.go.jp/english/press/2024/0214_001.html
内閣府「人工知能関連技術の研究開発及び活用の推進に関する法律（AI推進法）」https://www8.cao.go.jp/cstp/ai/ai_act/ai_act.html
Stanford HAI「2026 AI Index Report」https://hai.stanford.edu/ai-index/2026-ai-index-report
Hiroshima Process International Code of Conduct for Advanced AI Systemshttps://www.mofa.go.jp/files/100573473.pdf
Stanford Encyclopedia of Philosophy「Spinoza」https://plato.stanford.edu/entries/spinoza/
Internet Encyclopedia of Philosophy「Spinoza」https://iep.utm.edu/spinoza/
Stanford Encyclopedia of Philosophy「Dignity」（カントの尊厳と価格）https://plato.stanford.edu/entries/dignity/
Internet Encyclopedia of Philosophy「The Experience Machine」（ノージック）https://iep.utm.edu/experience-machine/
AlphaFold Protein Structure Databasehttps://alphafold.ebi.ac.uk/
Google DeepMind「AlphaFold」
https://deepmind.google/science/alphafold/

ハッシュタグ

#AGI
#ASI
#汎用人工知能
 #人工超知能
 #生成AI
#ChatGPT
#OpenAI
#GoogleDeepMind
#Anthropic
#AI安全性
 #AIエージェント
 #AIControl
#AIガバナンス
 #フィジカルAI
#ヒューマノイド
 #AIと哲学
 #スピノザ
 #アインシュタイン
 #デミスハサビス
 #ShaneLegg
#DarioAmodei
#GeoffreyHinton
#AI2027
#知能爆発
 #AI主権
 #日本のAI戦略
 #AI時代の働き方
 #自動化
 #ベーシックインカム
 #経済の未来
 #人類の価値
 #人間の尊厳
 #生きる意味
 #AI格差
 #グローバルサウス
 #国際格差
 #J_AISI
#AI事業者ガイドライン
 #AI推進法