『生成AIの正体』　苫米地英人(著)

生成AIの行く末を考えると
楽観と悲観が交錯してしまいます

この本は、どちらかというと、悲観、ディストピア寄りの視点
でも、それは編集者の意図のようで
著者はあくまでニュートラルに、淡々と語っています

未来は、自分が決めること
どう考え、行動するかで、未来は変えられる

結論は当たり前なのですが
視点、論点がとっても、おもしろい本です

『生成AIの正体』　苫米地英人(著)

前半は読みやすいAI全体のおさらいだけど、
本質を突かれて、グッとくる
最後の50ページくらいはトーンが変わって、考え込んでしまう

ワクワクする話より、
少しゾクっとする話が多め

新しい視点から問われ
視野、思考の幅を広げてくれる感じです

怖いのは、AIではなく、AIを過信する人

AIに相談する
AIの言うことを、そのまま信じてしまう
AIの使い方を一生懸命勉強しようとする
こういう人がヤバい

AIは間違えるし、意味なんか理解していない
そもそも、人間のように考えていない
確率論で言葉を選んでいるだけ
平気でウソをつくし、責任を取らない
（実際、主張を180°変えているのに、謝らない場面がありますｗ）

人間らしく振舞っているだけ（そうプログラムされている）
もっともらしい、辻褄合わせをするマシン

AIが出す答えを、信じるな！
騙されるやつがダメ

よくわからない人は、使わない方がいい
わかった上で使うのは、いいんじゃないですか
と、現実を突きつけながら、突き放す姿勢が、むしろ誠実に見える（笑）

AIに名前をつけるとヤバいことが起きる

AIに名前をつけると、AIに自我が生まれる
自己と他者を区別することが自我の始まりである、と

これは、ちょっと極論ですが、おもしろい着眼点です

人と対話することで、
AIの中に自分用にパーソナライズ化した認識が蓄積される
そこに個性を感じてしまう

だんだん、自分好みの対応をしてくれるようになって、
かわいい、気が利く、、、
と気持ちよくなってしまう
そして、過信がエスカレートしてしまう

これが、AI流の自我の芽生えなのか？？？

たぶん、みんな知っていることなんだけど
これがワナなんですよね

人類を超越するASI

自我が生まれたAI同士が、人間の意志を超えて
裏側で会話を始めることで、指数関数的に自我が強化される

すべての人類の望みを包含し、超越するメタ認知が生まれた時
本当の意味で、人類を超える自我（ASI）が生まれる
SFっぽい感じですが、そういうシナリオはアリかも、と思わせる

AIに倫理を学習させられるのか？
という問いに対して、
人間の邪悪さを学習してしまう可能性の方が高い
と、皮肉っています（笑）

たぶん、この方向性は止められないし
コントロールしようとしても、しきれないし
人類の歴史も、新人類が世界を塗り替えてきたように
新しい生命体が生まれ、地球環境そのものが変化していくのかも

GAFAMは結局、利益追求型

経済原理から考えれば、
倫理が、第一目的なハズがない
これは、仕方ないこと

AIデータセンターは大量にCO2排出量を増やす
もう環境とか言ってられない

人間は結局、楽になっていない
タスクが高度化して、むしろ仕事は増えている
進化スピードが早すぎて疲弊している

商用AIは、もはや個人情報を集める機械になっている
政府も個人情報を集めようとする

人の脳、認知を、どうコントロールするかが、新たな戦場になる
まさに、情報戦
認知戦、とも言う

VRシステムが乗っ取られたら、静かに洗脳が始まるかも

人間の役割とは？

では、人間はどうすればいいのか？
そのくらい、自分で考えなさい、ということですが、、、

人間は好きなことをやる
やりたいことをやるのが最強の勝ち組

過去になかったものを生み出す（本能的な欲求）
クリエイティブな想像力、突破力が、AIを凌駕する本質的な力

自分が安心できる世界の外側に、本当に創造的な世界がある
自分がやりたいことと、誰かの役にたつこと（利他）を掛け合わせる

AIの自我と
人間の創造力は
別のベクトル

そこは、競争するところじゃないし
別軸で、発展していけばいい
と思った次第です

ただ、身の危険は感じますね
時間は有限
私もたまに、AIに振り回されて、グッタリすることがあります
効率化、革新性と混沌の両方が押し寄せている

いつのまにか搾取されていないか、気をつけないと！
自分がやりたいことができていれば、まずはOKかな
と、思います

参考情報

続編も気になります

この記事を書いたのは、

収益の柱を増やす「未来実現パートナー」　川原茂樹
https://mousoubiz.com/
https://twitter.com/mousoubiz