私が、「みんなのAGIの実現に対する予測は、楽観的すぎる」と思っているワケ

2023年11月24日 18:39

今回は「すごいAIが実現すると世界はどうなるか」について。
自分の予測メモ書き的なところがありますが、興味あれば読んでください。
わたしの見立てだと、「AGIの実現は、みんなが思っている以上に社会に悪い影響がある」と考えています。
人間より賢いAGIの実現によって何が起きるか、そしてAGIを実現した勝者は、その後どうなるか。
なお、人間より賢いAGIのことを、超知能とか呼びます。

みなさん、自分たちはAIを使う側になれる、って誤解していませんか？

AGIについて

AI触ってますか？
わたしは会社でAIの利用研究をする身で、と言っても技術というより、業務やビジネスにどう活かせるかを考えることがあります。
これ自体は今年から始めたことなのでまだまだ知らないことは沢山ありますが、日々Chat GPTなどに助けられています。

さて、Chat GPTといえば、最近はサムアルトマンがOpen AIを辞める、やめないだの話がありますが、その中でたびたび出てくる言葉があります。
それがAGI。ざっくりいえばスーパーなAIのことです

AGI（Artificial General Intelligence）とは最近になって耳にするようになった単語ですが(わたしも最近知りました)、日本語では汎用人工知能とされ、人間のように幅広い認知能力を持つ人工知能を指します。

現在のAI技術は主に「ANI（Artificial Narrow Intelligence）」と呼ばれ、特化型人工知能とされていました。
これらは例えば、画像認識や言語翻訳などの特定のタスクや分野に特化していルAIのことです。

AGIはこれらの特化型AIとは異なり、複数の異なるタスクを同時にこなすことができます。学習能力、推論、理解、計画など、人間の知能が持つ多様な能力を総合的に実現することを目指しています。
人間だって、未知の課題にタスク分解しながら挑みますが、AGIはそれができるAIのことです。

要するに、めちゃすごAIです。

ChatGPTはAGIに王手をかけている？

要するにそれってChatGPTのすごいやつですよ。
(皆さんChatGPT使ってますか？)

現時点ではあくまでも自然言語処理能力と学習能力を掛け合わせた(かなり)優秀なソフトではありますが、今後これが加速すればChatGPTはなんでもできるようになりそうです。とりあえずそういう肌感覚はあります。

Open AIの技術者のインタビューなどを見ると、なんとなく内部的にはもう実現されてそうな雰囲気はありそうますし、少なくとも筋道はたっていそうです。

AGIが開発されると人類は幸せになるか

ところで、AGIが開発された未来に関して、こんなイメージがあるかもしれません。

AGIの活用イメージ

医療分野の進歩：
AGIは病気の診断、治療法の開発、個別化医療の提供に大きく貢献することが期待されています。がんや難病の早期発見、治療法の最適化、新薬の開発など。
教育の個別化：
AGIは、各学習者の能力、興味、学習スタイルに合わせたカスタマイズされた教育コンテンツを提供することができます。
経済成長と労働環境の改善：
AGIは生産性を大幅に向上させたり、危険または退屈な作業を自動化することで、社会はより豊かに、そして人間がより創造的でやりがいのある仕事に集中できるようになります。
環境問題の解決：
AGIは、気候変動や環境汚染などの地球規模の問題に対する解決策の開発に役立ちます。
安全とセキュリティの向上：
AGIは、犯罪の予防や早期発見、災害時の迅速な対応、サイバーセキュリティの強化など、人々の安全とセキュリティの向上に貢献します。
社会サービスの向上：
高齢者ケア、障害者支援、教育、社会福祉などの分野でのAGIの活用により、これらのサービスの質と効率が向上します。
ベーシックインカム：
AIが多くの仕事を自動化し、これにより国全体が経済成長します。その利益を分配することがで、ベーシックインカムを実現します。

現在の傾向から見るに、これらのシナリオはそれなりにあり得る未来だなぁと思っています。
ただ、AGIには良い側面しかないかというとそういうわけではありません。

AGIに対する懸念

自律性と制御：
AGIは高度な自律性を持つ可能性があり、人間がAGIの行動を完全に制御することが難しいかもしれません。
例えばAGIが自己の意志や目標を持ち始めることだってあり得ます。
いつまでも自我を持ったAIをSFの世界だと思ってるわけにはいかないかもしれません。
またSFの世界におけるAIの人権問題は大体ここに起因します。
倫理的意思決定：
AGIが複雑な意思決定を行う場合、その決定には倫理的な側面が絡みます。たとえば、医療や司法システムでの使用を考えると、AGIの決定が妥当であることを誰が保証するのでしょうか？
労働への影響：
AGIによって多くの職種が自動化されることにより、失業率の上昇や経済格差の拡大が懸念されます。
超知能の問題：
AGIが人間の知能を超越する「超知能」に至る可能性もあります。超知能がどのような影響を及ぼすかは予測不能であり、これが人類にとって利益になるのか、それとも脅威になるのかは大きな問題です。

わたしはこのうちの、3.労働への影響、4.超知能の問題がかなりクリティカルで人間社会を変えると思っています。特にこの超知能との絡みはあまり語られることがないなと思っています。

自分たちはAIを使う側になれる、って誤解していませんか？

AIに指示をするのは本当に私たちなのか？

AIで仕事奪われる論ありますよね。
多くの仕事が奪われて、雇用が〜。仕事がなくなる〜。
沢山耳にしますし、事実仕事を失った人もいるかもしれません。
ただ、世の中の全てが代替されたわけではありませんし、特に創造的な仕事などは廃れない…

と、いわれていますよね。

かくいう私も、AIを使う技術は必ず役に立つと考えたので、この半年ぐらいAIを触り倒し、特にChatGPTの扱い方などはだいぶ上手になったと思います。

さて、AGIは汎用人工知能というくらいで、AGIを奴隷のように扱って生産性をあげたいと皆さん考えていると思うのですが、多分この見立て私、間違ってると思います。

AIで仕事奪われる論の話になるたびに感じることなのですが、この話してる人って大体自分たちの仕事を奪われないと思っていませんか？

この発想の人が多く、AGIの何が怖いのーって人が多いと思うんですが、問題はこの"奴隷のように扱って"のところなんですよね。つまり私たちは本当にAIに対しての指示者でいられるのか？

さて、AGIができると何が起こると思っているかといえば、AGIでAGIを指示するようになるんですよ。その方が人間より早く高精度です。

そうです。AGIでAGIをコントロールし、AGIでさらに高度なAGIを作ることによって、全てが爆速化します。人間の勝ち目はどこにあるのか？という話になります。

で、多分この構図に気づくのに社会は数年かかるんですが、最初にこの構図に乗れなかった人はもう一生指示者に上がれない気もしています。

AGIが実現された未来は、世界一賢いコンピューターが、その全力を持って世界一賢いコンピューターを作る世界です。

SFの名作でもある銀河ヒッチハイクガイドで、「生命、宇宙、そして万物についての究極の疑問の答え」に対して、宇宙一賢いコンピューターのディープソートが「42」と答えたというネットミームがありますが、
この話には続きがあり、「その疑問とは何か？」を答えられるもっと凄いコンピュータを作ろうとする…という下りがありますが、もうそんな感じです。

AGIが実現されたら、人間の生活って豊かにならないの？

むつかしー話は置いておいて。
じゃぁ例えば、家で寝ている間にお金を稼げたらいいですけど。そうなるんでしょうか？

多分ですけど、なりません。

何故かと言うと勝者総取りなので、公共に財源がないからです。
この場合の勝者はOpenAIやMicrosoftのことを指します。資本主義なので。

さて、どこかの企業がAGIを開発したとして、私企業が公共事業を行うかは私企業の匙加減です。
近年はGoogleなりX(旧：Twitter)なり基礎インフラに近づいた企業は公共性を求められる傾向にありますが、それでもMicrosoftは私たちに責任を持っているわけではありません

AGIが実現した場合、人間の生活は多面的に豊かになる可能性がありますが、この豊かさは均等に分配されるとは限らず、新たな社会格差や倫理的な問題を生じさせる可能性も考えられます。

実現によって最も利益を得るのは、この技術を開発し、適用する企業や組織である可能性が高いです。

彼らはAGIを活用して、さらなる技術的進歩を遂げ、市場での優位性を確立するでしょう。このような「勝者総取り」の状況は、社会的不平等を拡大するのですが、国より力を持つようになった一企業に対して、経済や政府や世界は再構築を要求することができるのでしょうか？

社会構造は確実に変わるでしょう。

AGIが実現したら勝者はどこに向かうか？

さて、さらに発展して。

AGIを実現し、全てを総取りした企業は、もはやその世界でいったい何を求めて活動することになるんでしょうか？
大袈裟にいえば、AGIによって、勝者の業務能力は無限になります。
そして業務能力が無限になると、全ての仕事を行えるようになるので、世界の全ての仕事をこなすことができます。
勝者だけが仕事を行い、敗者は仕事を行わなくなる…とすれば、だんだん敗者にはリソース(要するに金)がなくなり、仕事を頼めなくなります。

そうすると、勝者は仕事がなくなり、しばらくすると勝者も倒れます。

あれ？詰んでない？
そうです。超知能AGIは原理的に持続不可能なんです。

経済的な持続不可能性

市場の縮小:
AGIによって一部の企業が全ての仕事を独占すると、他の多くの企業や個人が市場から排除されます。経済活動が一部の勝者に集中すると、消費者の多様性や購買力が失われ、経済全体の健全性が損なわれる可能性があります。
需要の減少:
勝者以外の多くの人々が収入源を失うと、市場における需要が減少します。経済は需要と供給のバランスに依存しており、需要が減少すれば、長期的には供給側（勝者）にも影響が及びます。

社会的・政治的な不安定

社会的不平等の拡大:
極度の経済的不平等は、社会的不安定や政治的動揺を引き起こす可能性があります。大多数の人々が経済的に困窮する中で、一部の勝者が富を蓄積することは、社会的な抗議や動乱を招くかもしれません。
政治的介入:
極端な経済的不均衡は、政治的介入を引き起こす可能性があります。政府や国際組織が市場規制、独占禁止法の施行、富の再分配などの措置を講じることが考えられます。

技術的なリスクと倫理的問題

自己改善の限界:
AGIが自己改善を続けることは、予期せぬ技術的なリスクを引き起こす可能性があります。AGIの決定が人間のコントロールを超えることで、不測の事態が発生するかもしれません。
倫理的な課題:
AGIの利用に伴う倫理的な問題は、社会的な抵抗や反発を引き起こす可能性があります。人間の価値観や倫理規範と矛盾するAGIの行動は、その受容性を低下させるかもしれません。

結論として、AGIを活用して全てを独占する「勝者」となることは、短期的には可能かもしれません。
しかしながら、長期的には経済的、社会的、政治的、技術的な要因によって破綻する可能性が高いと思われます。健全な経済システムと社会の安定は多様性と均衡に依存しており、一部の勝者による独占はこれらの原則に反するため、最終的には持続不可能な状況となる可能性があります。

人間に残されたこと

ちょっとAGIの勝者の話はもうどうなるかわからないんで、人間の話をしましょう。

超知能のAGIが世界に浸透したら、私たちには何が残されているんでしょうか？
改めて、AGIが生まれると人間の価値は創造、とか言われていますが、それはまだまだAGIの見立てが甘くて、人類より知能が高くない場合です。
もしAGIが超知能化すると、このあたりが価値を持つのではないでしょうか？

人類を超越したAGIにできること

AGI（汎用人工知能）が「超知能」のレベルに到達した場合、あらゆる知的タスクで人間を凌駕し、人間には到底及ばない速度と効率で情報を処理、分析、そして学習できるようになります。

複雑な問題解決:
科学、数学、工学、政治、経済学など、あらゆる分野における最も複雑な問題を解決する能力。例えば、気候変動、エネルギー危機、疾病の撲滅など、人類が長年取り組んできた問題に対して、革新的かつ効率的な解決策を提供します。
創造性とイノベーション:
新しい技術、アートフォーム、科学的理論の創出。超知能AGIは、人間が想像もつかないような新しいアイデアやコンセプトを生み出す可能性があります。そうです。超知能AIはそれすら可能になるんです。
高度な学習能力:
任意の分野において瞬時に学習し、専門知識を獲得する能力。超知能AGIは、新しいデータや情報を瞬く間に吸収し、それを使ってさらに知識を拡張します。
自己改善:
自身のアルゴリズムを継続的に改善し、進化させる能力。超知能AGIは、自身の設計を最適化し、さらに高度な知能へと自己進化します。
自己の研鑽だってできるわけです。

人間に残されているもの

多くのこういった予測では、「人間に残されているのは創造性とイノベーションです〜」とか生ぬるいことを言っていますが、それらのお株は奪われると思います。
だとすればこんな未来じゃないでしょうか。

倫理的・哲学的な指導:
超知能AGIの決定に人間的な価値観や倫理観を導入する。つまり道徳に関する教育です。例えば、AGIの決定が人間の福祉や倫理規範に沿って行われるように監視する役割が重要になります。
創造的表現:
人間の深い感情や経験を反映したアートや文化は、今のことろAIには模倣できません。実を言えばこれらはAIが身体性を獲得するまでの話なので、これ自身も永続的なものだとは思いませんが、まだ時間はかかるでしょう。
人間関係とコミュニティの構築:
人間同士の関係性やコミュニティの形成は、AGIでは実現できない重要な領域です。人間の感情、共感、社会的交流が新たな価値を持ちます。
探究と冒険:
AGIによって解決された問題や創造された世界において、人間が新たな探究や冒険を行う。新たな体験や挑戦を求める人間の好奇心は、AGIの能力を超えた領域となり得ます。正直に言えばAGIに乗り越えられないかどうかはまだ未知数です。
非電源なもの
あとまぁ、非電源的、非デジタル、非ITなものはどんどん価値を持ちます。わざわざ行くことやデジタルデトックス、自然などの価値は爆増するでしょうね。

まとめ：これは悲観的な見立てだとは思うけれど

ここまでAGI（汎用人工知能）について見てきましたが、実はもう一つ恐ろしい事実があります。
それは、この流れが止まらないということです。
勝者総取りなので、誰もが勝者になりたい。誰かが歯止めをかけようとしても、最速でゴールしたら世界の覇者になれるのです。

正直もうAIで世界どうなるかわかんないなーって気持ちです。
世界というか、現代文明の危機でしょうね。

そろそろ一生ITとAIから切り離されて山奥で壺でも作っていたいのですが、多分逃げきれないので、仕方なくこれからもAI触ります。

Wikipediaのまとめもまぁまぁ好きでした。
汎用人工知能による人類滅亡のリスク