人工知能は間違わないっていうとんでもない誤解怖い──『相対化する知性』読書感想文

AIや人工知能に興味がわき、書籍をいくつか読んでいます。
「AIとは？」「シンギュラリティとは？」の状態から読書し始めたばかりの素人ダラダラ感想その2です（2023/4時点）。

表題の本の他、下記の本の内容も織り交ぜています。

• 情報と秩序

• 超AI入門

• 人工知能はAIを超えるか

人工知能についての書籍の感想【その1】はこちら

書籍データ

感想

※ディープラーニングの概念はふわっと把握しつつも、数式などは適宜無視して読んでます。（そこにこだわると理解できなくていつまでも読み終わらないので）

知識創出と、それを伝えることの難易度

人間は情報*を知識やノウハウをもって処理し、概念化して物理的な形に起こす（記号化・文章化・物質化）することで、次世代に知識を受け渡すことができる。また、そのことにより、他者と認識や想像を共有することが可能になり、その行為を介して共感や社会性を構築してきた。

私たちはそのようにして具現化された情報を先人から引き継ぐことで、学習のショートカットをし効率的に知識を得られる状態にある。そのため、余力を使って（1からやっていては到底一人の人間の生の中では完結し得ない）新しい知識を獲得することができる。

具現化された知識に囲まれている私たちは、知識の創出（今までにない理論の獲得やそれを普遍的で汎用的で適切なアウトプットに落とし込むこと）を非常に安易に考えがちだけど、それらの一つ一つは先人たちが生涯をかけて成したことの集大成であり、後世にかけて残るような知識を成すことは驚くほど難易度の高いことなのだ。

私たちは手を伸ばせばすぐに手に入るような形で「知識が共有されている状態」に感謝し、その意味をしっかりと理解するように努め、正しく活用しようと努めるべきなのだと思う。

私たちの人生のおおよそすべては先人の知恵を拝借することで成り立っており、私たちの多くは新しい知識を生み出すような専門家ではない。私たちは、生み出された知識を良い形で次世代に引き継ぐために存在する「次の人」であるという立場を忘れてはならない。

*情報=ここでは「特定のメッセージを一意に指定するのに必要な最小の通信量の尺度（クロード・シャノン）」に近似の意味として書いています。

知能とは何か意識とは何か（人工知能の知性の可能性）

知能が高いとは、『情報と秩序』内の言葉によれば「少ないサンプルでも効率的に複雑な環境をモデル化し、結果として高い予測精度を発揮すること」とある。これは人間にも当てはまる。

人工知能が現在発揮できる最も人間的な知性は、ディープラーニング開発の結果、多数のパラメーターを用いた概念の形成（モデル化）=人間でいうところの経験値・暗黙知をもとにした判断ができるようになったこと。

人工知能が人間以上の知性を発揮できると考えられていることの一つに、圧倒的なデータ処理だけではなく、人工知能が生きていないことを逆手に取った「人間の概念をはるかに超えた領域の概念を生むこと」がある。
例えば、「100次元空間を作ること」。ただし、そのアウトプット（モデル）は人間が理解できない可能性の方が大きい（それがもし理解できたら全く新しい思考のとっかかりにはなる可能性はある）。

本を読んだ限りでは、人工知能を具体的用途に紐付けた活用はまだ非常に限定的に見える。

にも関わらず、その限定的な技術（画像認識技術・翻訳技術とか）ですら人間の生活に劇的な変化を与えている。

可能性はたくさんあるけど、限定的。そこにはデータ容量の問題を含む技術の問題や開発コストの問題、そもそも人間が用途として思い付かない分野もあるだろうし、たくさんの問題があって、時間の経過で解決するものもあれば難しいものもあるんだろう。

人工知能に関しては、活用に向けての開発途上に問題がたくさんあることはいいことなのかもしれない。
その影響度を鑑みれば、人工知能の新しい可能性と用途（そこまで大きな話でなくても既存のプログラムで派生的に対応できる新しいサービスも同様）が見つかって、それが開発コストに見合うものだと判断されて実現に向けて動き出す場合は、慎重な検討が必要だろうなと思うから。

人工知能のできることは格段に増えている。でも、人工知能はそこに”ある”だけで、そのあるべき姿も、活用方法も、目的を達成するためのプログラムも、すべては人間が定めている。
思考プロセスやアウトプットが人間に近しく進化しても、「生」を持たない人工知能は行動の動機（指定されたプログラムを達成するための知識の獲得は除く）を持たない。人工知能にどのような思考をさせるか、人工知能の導き出した解答をどう使うか、それは人間が決めること。

だから一番怖いのは、人工知能が人間が理解できないプロセスを経て理解できない出力を提供するその時じゃなくて、人工知能出した人間の理解できる解答に対する人間の反応がコントロールできなくなったその時なんじゃないか。

学問的追求は、ある程度「人間のその先」に触れるために致し方ないかもしれない。一方で利潤が絡む活用に関しては、あくまで長い時間で、広い範囲で、人間の社会にメリットがあるかという目線が必要だと思う。
人工知能の研究が成熟することで、私たち人間の成熟もさらに求められるんだろう。

シンギュラリティもどき

シンギュラリティの定義はとても曖昧で、さらにいうと専門家と一般のレベルの認識の差が大きいと思う。
一般の受け止め方は、どうも感情の獲得のような意味合いで「人工知能が人間になる」という理解が強いのではないか。一方で専門家は感情面への言及は一切なく、あくまで「あらゆる知的活動で、人工知能が人間の脳を超える事態」という知性面を取り上げたもの。

実際に知的活動において人工知能がすでに優位の部分は散見されるので本当にその日が来るのかもしれないけど、私はシンギュラリティ以前に必ず訪れる、恐れるべき可能性がいくつかあると思う。

一つ目は、一般の人が人工知能を盲信するようになること。内容が精緻に”見えるように”なればなるほど（現状のchatGPIの出力した情報に対し「クレーム」が来るような衆目監視がいつまで効くのか、企業側がどこまで真摯に受け入れるか、そもそもその指摘自体が正しいのか、いろんな問題を内包してる）。シンギュラリティが来たと思い込まされるなんていうアホな事態も十分に起こり得る。

イーロン・マスクらが声を上げて人工知能開発にちょっと待てしたのは（例えそこに個人的な思惑を孕んでいるとしても）、私たち一般層にもその危険性を察知させる意味でも本当に大切なことだと思う。

二つ目は、人工知能が人間の感情が動くコミュニケーションアプローチを手に入れ、それを悪用される土壌ができること。実際に、すでに人工知能は膨大なデータの中から納得性の高い文章を導き出すことができるので、いずれすぐに「多くの人間が好む可能性の高い」だけでなく「多くの人間の心を動かす可能性の高い」言動を選ぶことができるようになる。それを利用して、”誰か”が大衆を扇動するなんていう事態が起こり得る可能性は現実世界で十分にある。

「人工知能ではなく人間が人工知能を介して暴走する」事態は、真のシンギュラリティより相当早い段階で来るのではないか。

シンギュラリティが知性に限定したものだとすれば、それに対する上記のような一般大衆の病的で偏った受け止め方、悪用の懸念などを除けば脅威を感じることは何もない。
なぜかというと、人工知能は知性は持っても意識を持つことはなく、従って主体性や動機（必要な知識を得るということ以外は）を持つことは永久にないから。もし仮に人工知能が主体性や動機を持った時は、「持ったように見せられている」と考えた方が良いと思うんだけど。

けど、人間が人工知能を信じすぎた時。果たしてそういう考え方が多数派を占めるか？

一般人である我々がなすべきは？

研究者は探究する役割を担う存在なので、人工知能を介して人間の知性はどこまで深化するかという興味を持ってとことん研究を進めるのが責務だと思う。そういう探究が人間の進化を支えてきたから。
一方で一般人である私たちはどう振る舞うべきか。

私たちがなすべきは、（本でも言及されているけど）「人工知能の今」を提供されたサービス・インターフェースを介して興味を持って自分が実体験しつつ、世間に人工知能の可謬性を訴え続けること。

決して人工知能を盲信しないこと、人工知能は誰のためにあるのか（誰かを助け得るのか、それは他の誰かを犠牲にしていないか、長期的に見て社会全体にとってのメリットになるか）を考え続けること。
それが大事だと思う。