目的でなく手段としてのAIであってほしい──『超AI入門』ほか読書感想文

ちまたでchatGPTが騒がれているので、本当に人工知能のことをなにも知らない私がAI系の本をはじめて読書した感想（2023/3時点）。
とっかかりとして、松尾さんという方の著書を読みました。

結局「人間とは何か」の問題に最終的に帰着する人工知能の話題。
本を読んで感じたことを踏まえ、自分の考えを書き散らしてみます。

書籍データ

感想

AIをどう活用すべきか

まずは、AIをどう活用すべきかの問題から。
人間の知能や脳のつくりを読み解くという学術的な課題に対しては、実験的にどこまでAIが自ら思考できる能力を身につけられるかを極限まで突き詰めるのはありだと思う。
シンギュラリティを見てみたいという好奇心は、人間誰しもが持っていると思うから。

一方で、人の生活や仕事をAIを活用してどう向上させていくかというレベルの話であれば、「課題を解消するためにAIを活用する」という「人ありきのAI」という順位を忘れてはならないと思う。

そして個人的な欲や目先の欲でなく、人類全体のためにという視点も忘れてはならない。
例えば、人材不足が明らかに顕著になっていて、かつ人間の身体的な負荷の重い「農業」「医療・介護」「建設」などの分野に対しロボットを介してAIの力を使うのはすばらしいこと。
ITや外食産業など長時間労働が慢性化しがちで過労死などの問題がある現場も同様。

しかしながら。
これは教育の問題とも絡んでいくけれど、「単純作業」だけど「緻密さ」が求められて、真面目にコツコツしっかりと取り組む必要のある一見AIとの相性の良さそうな作業であっても、そこに適性のある人間が従事していて成り立っているところに対してオートメーション化を進める必要があるんだろうか。

その仕事に誇りを持って、家族を養って、立派に自立している人間の職を、
利便性とか経費削減とかスピード感（消費者の視点からはより「安く」「早く」を求める空気）を優先して代替していくべきなんだろうか。

「人間にしかできないことをしないと、自分の仕事がなくなる」
そんなこと、みんなわかっている。
でも、それが達成できない人も一定いるのが世の中で、本来ならそれこそ人間だけが持つ共感する力とか、社会との結びつきから生まれる心の部分で拾うべき問題を無視したり拾えないことこそ一番根深い問題なのではないか。

雇用を失った人間は、どうなるんだろう。
そういう「世の中の都合で受け入れられない」人が溢れた社会は、どうなるんだろう。

世の中は絶妙なバランスで成り立っていて、
人間はそれぞれに「生きる目的」「生きる意味」を自分の中に持って生きている。

それを奪い取るようなAIの活用があってはならないと思っている。

AIはどこまで進化するか（させるべきか）

AIをシンギュラリティの域まで高めていく行為は、パンドラの箱的な危険性も含んでいる。
それでも突き詰めていくべきなのか。
端的に言えば、その行為は知的好奇心を満たすための取り組みである。

それを止められないという人間味こそが、人類の進化を支えてきたのだし、これからの進化を支えていくのだと思う。
それで破綻を招いたら、それはもう運命なんだと受け入れるしかないのかな。

AIと人間の差異はなんなのか

人間は、その思考のベースに身体性と社会性を持つ。
「この世で生きる」ことが基礎にあるからこそ、そこに人間の「思考することに対する必然性」が生じるのではないかと思う。
AIはそのいずれも持たない。知識が、それを形づくるすべてである。

「精神とは？心とは？」という別な問題になってきてしまうけど、
人間の思考は、下記の土台に乗って成り立つものだと私は思っている。

• 根っこに人類として共通する本能（進化を経て最適化されたものであり短期的には変化しない）

• その上に知りうる範囲の社会の暗黙知・ルールに基づいた感覚（変化しずらい）

• その上に個人的な性格・背景・状況に応じた感覚（わりと変化する）

AIはこのいずれの感覚も持たないので、「問題意識」「目的」が生じる訳がないのではないか。
（知識を増やすことを自らの意志で行うことを「目的」というならAIにも目的があると言えるかもしれないけど、その知識をもって何をしたいのかという「目的」を持つことはあり得ない。なぜなら、生がないAIにはその必然性がないから）

そこが人間とAIの一番の差異でないかと私は思う。

さて、目的を持ったときに解決に向かうための道筋として人間が辿るのは下記のような流れかなと思うのだけど、そのどこを現在AIは満たせるのか。（現状では太字は人間向き部分かなと思う。他は指示すればAIもまあまあの及第点でできるのでは）

• 目的を持つ（この契機は人間の場合必ず自分だけでなく社会と関わりがある）

• それを達成するための課題を設定し、解決までの仮説を立てる

• 仮説に則り、解決するための方法を探る

• その方法が最適であるかどうかを判断する

• 方法を実行するための情報を収集する

• 集めた情報に対し正誤や要不要を判断する

• 目的に応じた形に情報を整える

• 汎用目線（なるべく主観を排した他者視点）でチェックし最適化する

• 他者の生の反応を見てさらに最適化する

数理的な必ず解のあるもの、情報の量的処理などは圧倒的にAIに軍配が上がる。
暗黙知的な経験則での判断は人間が行う方が効率が良い。
この使い分けをしていくのが絶対的に効率が良いのだろうけど、あえて人間的経験値・精神・感情・主観を元にした判断が入る苦手な分野もAIに挑ませるべきなのか……あくまで得意分野を伸ばすだけじゃダメなのだろうか……（そういう一見無駄に見えるところに次の革新的な発見の突破口があったりするのも事実なのだろうけど）

AIと創作

※創造性については、著者は"ひらめき""発想"文脈で語ることが多いのだけど、感覚人間な私の感想の中では創作文脈にしぼって語ります。

これは、そもそも「人間は創作されたものに何を求めるのか」というところが議論の根本にあると思う。
いわゆる芸術と呼ばれるアーティストが作るものは、それこそその根底に「生」があると思う。
生きていて、人間が普遍的にぶつかる課題（死、病、戦、別離など）、感じる強い感情（愛、憎悪、悲嘆など）や、些細な感情（妬み、嘘、違和感など）をテーマに、それを他者に伝えることが動機としてある。
「生」の中に動機があるからこそ、受け手は同じ人間として受け止めて、感じ取り、共感（反発）する。
その「やりとり」が芸術を生み出す醍醐味であるし、受け取る醍醐味だと思う。
一方で、インスタントな創作については「ウケる」ことが最重要課題になっていたりするので、その点は「ウケる」に対する反応と傾向を機械的・量的に収集できるAIが向いているのかもしれない。
けど、そこにはもはや生み出す醍醐味も受け取る醍醐味はもはや存在しなくて、割り切りだけがある。
それでいいなら、そこに需要があるなら、AIに任せれば良いと思う。それだけ。

個人的には、良い文章には匂いがあると思う。嗅覚で嗅ぎ取るものとイコールの匂いではないけど、五感でいうと一番嗅覚が近しい感覚。人間として生きている匂いがする文章は、とても良い。
オンライン上にある文章で、匂いがする文章に出会うことは滅多にない。上辺を撫でるような文章には匂いはしないんだと思う。（でも全部匂ってたらうざったいので、あえて匂いを消している文章もあると思う）
いくらでも個人が創作に着手できるこの世の中で、人に評価されることを前提にしたシビアさのある商業ラインに乗っている創作物は「生からの動機」と「ウケる」を兼ね備えている点では本当にすごいと思う。
動機のないAIにはできないものを創れるのが人間だ。

AIが今後どんな進化を遂げるにせよ、人間が善く生きるためのサポート技術であるということをAIがすぐそばにある今は誰もが意識して生きないといけない。
例えば人工知能が人類に害をなすかどうかという話では、
ディープラーニングで情報の集合から概念や特徴量の抽出が可能になっている人工知能が「人間のダークサイドの行動特徴」を捉えるのは非常に簡単なことに思えるし、そのためにAIが自ら必要なアクションを選んで起こすことはすでに今ある技術でもできるのではないだろうか。
人間がAIを自分の都合の良いように活用するのと同じく、全てAIがやらなくてもいい。一連の特徴的な行動を起こすきっかけを与えさえすればいいんだから。
まあ……その悪意を人間が入力しない以上「人間を滅ぼす」その動機がAIにはないとも思うのだけど。