ソフトバンク孫氏が語る ASI 「超知性」の世界 ～そんなに楽観的で大丈夫か！？～

昨日のYahooニュースでも取り上げられていた、記事をシェアします

ソフトバンク 孫正義氏の講演で、AIの未来について語ったもの
さすが、うまいまとめ方だな、と思うところと、
ちょっと、微妙だな、と感じる部分もあるので、
私が思うところを併せて、ご紹介しようと思います

ソフトバンク公式サイトのレポートはこちら

Internet Watchのまとめも、いい感じです

これまでの ChatGPT と o1 の違い

これまでのChatGPTは、人間が話すような、
話し言葉や文章を理解して、動作することが画期的だった

実際は、理解しているように振舞っているだけなんですが、
それでも、従来のソフトではできないかったことが、
ずいぶん幅広くできるようになった

自然な文章で指示して、目的に合った文章を生成してくれる

これに対して、o1は、初めて、本格的に 「考える」 領域に入ってきた
論理的思考の連鎖を、何万回でもやってくれる
試行錯誤の回数では、人間の限界を超えて、どんどん進化していける

知のゴールドラッシュでは、使ったもの勝ち！

こういった難問に対して、的確に回答してくれるようになったら、
戦略コンサルもタジタジですね（笑）

現状の o1 がどのレベルなのか、私はまだ使ってないので、知らないのですが、
早晩、そういう時代が来る
その状況に備えて、どう使うか、考えておいた方がいい
というメッセージです

ここでも、人間の 「問い」 「質問力」 が試されます

適当な質問には、適当な回答しか返ってきません

うまく使える人と
使っていない人、知らない人の格差は劇的に広がりそうです

AIの報酬設計がカギを握る

AIはあくまで機械ですから、
プログラミングされた通りに動きます

目的、目標、善悪、こういった答えのないパラメータは、全て人間が与えることになる
少なくとも、初期値、方向性は人間が与え、コントロールする必要がある
そうしないと、正に暴走する可能性があります

よく見る、強化学習ループの図なんですが、
従来、ニューラルネットワークやディープラーニング（多層ネットワーク）だったところが、
AIエージェントになっています

つまり、より複雑で巨大化した仕組みに対して
報酬系を設定して、学習ループを回す、ということ

高度なAIエージェントを膨大に並べて学習させる様子は、
地球上で高等生物が進化してきた歴史や、
社会の変遷を、超高速にシミュレーションするようなもの

世界を創造する
それも、無限に創造し続ける
そんな仕組みを手に入れようとしています

たぶん、この報酬系設計が実に複雑で難しい
なので、どこかで人間の限界が来て、
本来、人間がコントロールすべき、報酬系の設計もAIに任せるようになる、
そうすると、、、、　ヤバいことが起きるリスクが高まる

AIは暴走しない… というが.. 本当のところは？

自己意識や感情、倫理観を持つというのは、
現状からは想像しにくい

• 身体性の獲得（膨大な感覚器からの刺激を統合して学習すること）

• 報酬系（判断基準）の設計

• コンピューターリソース（膨大な資本力）

などの問題を解決する必要があります

このくだりからも、報酬系の設計が、
AI暴走を食い止められるかどうかのカギを握っていることがわかります

報酬系の設計は、願うものではなく、コントロールすべきものです
孫さんの講演の締めくくりは、他人ゴトの楽観論にしか聞こえず、
まだ詰め切れていない、ロジックの甘さを感じてしまいます

たぶん、何か思惑があるんだと思いますが、
ちょっと不穏な空気も感じる

今後、動画も公開されるようなので、そちらで確認したいです

この記事を書いたのは、
収益の柱を増やす「未来実現パートナー」　川原茂樹
https://mousoubiz.com/
https://twitter.com/mousoubiz