ASI 「超知性」の実現性と課題 ～ソフトバンク孫氏の講演より～

先日、ソフトバンク孫会長の講演についての感想を書きましたが、
直接動画を見ることができたので、感想の差分をまとめてみます。

AIの能力がどんどん高まり、
AGI、ASIと進化していく未来

ほんとに、そんな状況になるのか？

前回の記事はこちら

（↓）講演の動画が見たい人は、こちらから登録で、11/8まで視聴可能です

AIの能力向上

ChatGPTが登場した2022年11月から、
もうすぐ２年、この間も凄い進化ですが、
たった２年前のことで、まだまだ始まり、とも言えます。

最初の頃は、「おもちゃだ」、「全然使えない」とか
色々な言われ方をしていましたが、
もう、ビジネスで使うのが当たり前、という感じになりつつあります。

パソコンや、Internet、スマホが登場したときと、同じような感じです

AIの知能だけ上げるとキケン！！

OpenAIのo1は、論理的な推論能力を持ち始めています

今後、複数のエージェントが協調して、組織社会のような動きはできそうです

１つ目標が決まると、あっという間に、
人間が思いつかないような方法を編み出しそうです

将棋AIの世界では、すでにAIが人間を超えていて、
人間だったら絶対指さないような最善手を
ときどきAIが導き出して、人間をビックリさせます

藤井聡太 棋士は、そんなAIっぽい手を打って、
「AI超え！」 とか言われてニュースになってますね（笑）

ちょっと話を戻して、AIの能力が上がり過ぎると、
人間には理解できない最適解が出てきて、
人間の方が混乱します

さらに、実行権限も渡してしまうと、
本当にAIが暴走する危険性が高まります！

人間の方は、そういうつもりではなく、ちゃんとコントロールしているつもりでも、
いつのまにか、AIが権限を持ち、人間が従属的になってしまう、
という構図は容易に想像できます
現在のマスメディアやネットの影響を見ていても、ありうる話だと思います

講演の中でも、「AIの知能だけ上げるのは危険だ！」
と強調しています

AGIとASIの位置づけ

この２つは、単なる能力の差というより、
AGIは 「知能」 の最大化
ASIは 「知性」 の最大化
シンプルに整理すると、こういう対比のようです

知能を超えて、知性を獲得するには、
人間の感情を理解し、共感、慈愛、倫理、寛容など
心のようなものを持ち、
人とASIの調和を目指すのように振舞う必要がある

ちょっと、わかったような、わからないような、感じですが、
単に頭がいいだけじゃダメ、
感情とか、共感とか、人間性（人間力）のようなものを期待している

人間中心を希望する気持ちはわかりますが、
それが最適解かどうかは不明で、ムズイ感じ

要するに、どういう状態を目指すか、
目的と目標の設定が超難しい

つまり、AIの報酬設計が大問題！
という、前回の私の結論が、そのまま疑問として残ります

人間と共に成長する報酬設計

この考え方自体が理想論で、あまり現実味がない
ライフログも感情の読み取りも、精度を上げようとすると、とてもコストがかかり過ぎる
だれも、そんなものは望まないので、経済的に成り立たない

人間の生活の膨大な情報をライフログとして、長期にわたって記録する
行動、言動だけでなく、感情や五感の繊細な情報まで読み取って、数値化、記録する
１人１人に対して、膨大な情報を読み取り、記録することが、そもそも可能なのか？？

常識的には、ほんの一部だけをサンプリングして、残りは予測するしかない
複数人の情報を掛け合わせて、平均的な値は出せるかもしれないけど、そこに個性はない。個性を出そうとすると、情報量が爆発して、いくらASIの能力を高めても処理できないレベルになる！

私の感覚は、そんなところです

ASIは、人間の 「幸せ」 を理解できるのか？？

たぶん、ここが、私的には一番のナゾ

人間の「幸せ」って、
人間にもよくわからないのに、
ASIに理解できるのか？
そもそも理解する対象なんだろうか？

という哲学的な領域に入ってきます

おそらく、AIの進化と共に、
人間の方も精神的、哲学的に進化が求められそうです

早い段階で、社会の生産性が上がり、
ベーシックインカム的な生活が成り立つようになると、
働くこと自体に意味を見出せない人が増えて来る
社会構造や人生観が大きく変わるかも、と思っています

そういう変化にも対応し、進化した人が勝ち残る
だから、ASIも使いこなす必要がある
バラ色の未来というより、より多様で、カオスな感じで
選択肢が増える世界かな、と思います

ぼ～っとしてると、AIに飲み込まれそうですね
気をつけましょう～！

この記事を書いたのは、
収益の柱を増やす「未来実現パートナー」　川原茂樹
https://mousoubiz.com/
https://twitter.com/mousoubiz