倫理を超えた全体最適？ー落合陽一『デジタルネイチャー』を読んでみた

いま、もっとも影響力のあるアーティストの一人、落合陽一。時代を考えるのに読んどいたほうがいいでしょ、ということで、まず『デジタルネイチャー』（PLANETS 2018年）を読んでみました。

二点違和感がありました。

一点目。落合は自然はデジタルネイチャーに変容し、コンピュータによって全体最適化されるといいます。それは人間の倫理観を超越し、人間の一生（約80年）という時間的制約を超えた全体最適なのだそうです。人間倫理を超えると、人間は消滅した方が良いという結論もありえると思うのですが、仮にそのような最適化をコンピュータが目指したときに、人間はスルーして良いのか。というか落合は人間が判断できるのは時間的制約内の80年スパン内で、これを超えると人間は気づかないといいます。ということは、数百年スパンで全体最適を目指されると人間は気づかないうちに消滅シナリオに突入してしまっているかもしれない。私は人間が消滅するのに反対なので、人間の生存を前提とした全体最適を目指してほしいと考えています。はい、自覚しました。どうも私は人間中心主義者のようです。時代に逆行しているかもしれませんが、人間を中心に考えたい…。

二点目。落合はデジタルネイチャーでは人間性が脱構築されるといいます。私もそう思います、というか人間性は脱構築され続けていると思います。問題はこれからの人間の欲望がどうなるのかわからないということです。確かに今後コンピュータに丸投げすることがますます増えるでしょう。しかし人間はコンピュータでできることを、わざわざ時間やコストをかけてやってしまう生き物ではなかったでしょうか。ネット上にはすでに、ある映えた食べ物の画像が何万枚もUPされているのに、それでも自分で撮りたいという欲望が生まれます。すでにコンピュータの方が将棋は強いのに、人間は指し続けます。この欲望も脱構築されてしまうのだとするとヤバイのではないかと思ったのでした。

今回は主にこの二点について考えたいと思います。

デジタルネイチャー

まず本書のテーマ「デジタルネイチャー」とは何か確認します。

すばらしい環境です。はやくこいこい、デジタルネイチャー。

ホログラムとはホロ＝全体、グラム＝文字のことでしょうか。アナログ文字とデジタル文字が包括された自然がデジタルネイチャー。アナログ文字もデジタル文字に変換されるのでしょう。ひとことでいうと世界がデジタル文字で記述された世界のことなのでしょう。

全体最適

デジタルネイチャーの世界とは全体最適化および個別最適化が融合するというすばらしい世界のことのようです。そして多数決とは異なるしかたで意思決定されるといいます。

全体最適化、個別最適化、意思決定を誰がどのように決定するのか、具体的には説明されていません。少数の人間がこれらを判断するのか、AIに任すのか、AIに任すとすればアルゴリズムは誰がどのようにつくるのか。ただしヒントは書かれています。

これを読むと、全体最適化、個別最適化、意思決定は、専門家とAIのチームに任すことになりそうです。仮にそうだとすると、人間のことだから、どのアルゴリズム開発チームに任すのか選挙しはじめるような気がします。その場合、人間の限界を超えられないのではないでしょうか。選挙以外に良い方法があるのであれば教えてほしい。

つづいて最適化の問題についてです。何をもって最適とするのか。

コンピュータによって人間の倫理観を超えた判断がなされるらしいのですが、これヤバすぎではないでしょうか。人間の尊厳や基本的人権を間接的に脅かすかもしれないが、人間の認知能力では気づかないだろうと言っているように聞こえます。確かに原発などは子孫のことを考えていないからこそ導入できたのかもしれません。そういえばまもなく戦後80年。落合の説が正しいなら、ちょっとまずいかもしれません。いっぽうで本、墓、建築、子どもなどで80年スパンを越えようとしているのではないかとも思います。たとえば戦争の記憶を引き継ぎ、何とか繰り返さないようにしているともいえます。人間の尊厳や基本的人権を脅かす全体最適とはいったいどのようなものでしょうか。たとえば地球レベルでの全体最適を考える場合、人間の尊厳や基本的人権を無視するのであれば、人間を消去するという結論もありえるのではないでしょうか。地球視点では人間は存在しない方がよいのかもしれません。しかし私は人間の尊厳や基本的人権を優先した上で全体最適を目指してほしいです。

欲望

もうひとつの問題、人間の欲望について考えます。しかしその前にまずは虚構と現実の関係について確認します。

そのとおりだと思いますが、「＜現実的な虚構＞と＜虚構的な現実＞の間で、人々は揺れ動く」事態は、数万年前から起こっていたのではないかと思います。理論神経生物学者チャンギージーによると、ふだん私たちが見ているのは0.1秒後の世界です。そうでなければキャッチボールはできないでしょう。もし私たちが予測した0.1秒後の世界がやってこなかったとき、錯視が起こります。つまり人間はふだん人間という計算機がつくり出した虚構の自然を見ています。

つづいて感情についてです。

機械がいい感じにメッセージするようになるというのは、そのとおりだと思います。しかし感情が存在する意味そのものが揺らぐというのは、違うのではないでしょうか。ここに欲望が関係してくると考えています。あの人に手紙を書きたいという欲望が生じる場合には、自分で手紙を書きますが、その欲望が生じない相手には機械に任せることになるのではないかと思います。たとえば今私が書いている記事は、私の欲望によって書かれています。この記事よりもスキをたくさんもらえる記事を機械が自動投稿したとしても、きっと私は喜ばないでしょう。

映え写真をわざわざ撮りに行くのも欲望の問題だと思います。すでにネットには何万枚というほぼ同じ写真がアップされているので、画像を手に入れるという結果のために撮影しているのではないと思います。画像を生成するまでのプロセスを体験したいという欲望に駆動されているのではないかと思います。

まとめ

ということで、考えるヒントをもらえました。全体最適とは何なのか、どうやって最適化するのか、AIの進化によって欲望はどうなるのか、これから考えていきたいと思います。