西田宗千佳 『生成AIの核心　「新しい知」といかに向き合うか』 ： 薄っぺらなディストピア

書評：西田宗千佳『生成AIの核心　「新しい知」といかに向き合うか』（NHK出版新書）

ハッキリ言って、「並のビジネス書」という感じだった。つまり、書物としては、中身が薄っぺらい。

ひと通りのことは書いてあるのだが、ハッとするような知見がひとつもない。文系の私ですら、おおよそのことは知っている程度の話を、常識的な線で無難に解説しているだけ。いかにも、業界ライターさんの書いた本という感じである。

この人の、生成AIについての展望は、基本的に肯定的なものである。まあ、それで食っているのだから、当然と言えば当然ではあるのだけれど、要は、提灯持ち書評家と同レベルだということ。
また、そんなわけで、自身の、文書作成にもすでに生成AIを利用しており、AIを「コパイロット（副操縦士）」として活用する方法を、具体的に紹介したりなどもしている。

文書生成AIというのは、与えられた指示について、これを理解し、論理的に考えて、文章を作成している、のではない。
膨大な文書データを学習することで得た「単語や文章のつながり」を確率論的に選択して、「オーソドックスな（流れの良い）文章」を作成する、というのが基本的な建て付け（仕組み）である。
そのため、文書生成AIの作った文章は、クセがなくて読みやすく、いかにも整った文章になるのだけれど、しかし、間違った内容であっても、それをそれらしく書いてしまうというところに問題がある。文章が流暢なので、読者は、その調子の良さに惑わされて、誤りには気づきにくく、説得されてしまいやすいのだ。

で、これは人間の書く文章でも同じであるし、私の文章でも同じだ。つまり、人間の場合だと「レトリック」ということになる。
小説などが典型的だが、あり得ないことを書いても、書き方がうまければ、その「描写」は説得力を持ち、読者を説得してしまう。これを、文書作成では「レトリック」と呼ぶけれども、これは本質的には「ペテン師の口八丁」と同じだとも言えるだろう。

ただ、文章家の「レトリック」も、ペテン師の「口八丁」も、それらは「語り得ないものを語り得ているかのように語るテクニック」として、意識的に活用されるものだし、読む方も、程度の差こそあれ、そのことは無意識のうちに認識している。人の書くこと、語ることを、そのまま「鵜呑みにしてはならない」という、当たり前の認識である。

例えば、「怪談」本を読んでいると、まるで幽霊だの呪いだのが現実に存在するかのような気分になってくる。だが、だからと言って、それで幽霊だの呪いだのが実在すると思ってしまうような人は、端的に言って、幼稚であり頭が悪い。そのくらいのことは中学生くらいまでで卒業しておくべきことで、たいていの人は、そうしたものは「気分」を喚起する「レトリック（文章術）」の問題でしかないことを、大人になった段階では、すでに理解していることだろう。「そう感じたから、それは現実だというわけではない」というのは、ごく当たり前の話なのだ。
したがって、普通の大人は、「文章の内容」を鵜呑みにはしないし、「おいしい話」は眉にツバして聞くのである。

ところが、同じことを機械がすると、「機械は機械的であるがゆえに、正確だし嘘をつかない」という先入観があるために、多くの人が、その内容を鵜呑みにしてしまいがちである。インディアンは嘘をつくかもしれないが、コンピュータは嘘をつかない、と信じきっている。
そのため、ここが「チャットGPT」などの文書生成AIを利用する際の「留意点」とされるのだ。

つまり、生成AIも「嘘はつかない」のだが、「もっともらしい間違い」を出力することはしばしばあって、最終的には、その出力内容が正しいのか否かは、生成AIの利用者である人間が、自己責任で判断しなければならない、ということなのである。

で、どうして、「もっともらしい間違い」をするのかについては、すでに書いたとおりで、生成AIというのは『与えられた指示について、これを理解し、論理的に考えて、文章を作成している』のではなくて、『「単語や文章のつながり」を確率論的に選択して、「オーソドックスな（流れの良い）文章」を作成する』だけだからである。
そのため、「もっともらしく」はあるけれども、「正確」ではあり得ない。「思考」しない生成AIには、論理的に「正確・不正確」という発想はなく、確率論的に蓋然性の「高い・低い」だけで、文章を作っているためなのだ。

そんなわけで、本書の内容が「薄っぺらい」というのも同じことで、本書は「もっともらしい意見」を、なめらかに繋いでいるだけ、といったような内容で、中身に「深み」がないのだ。
個々の意見は「大筋では間違いではない」のだけれど、掘り下げというものがまったくないから、「当面はそれでも問題はないだろうけど、その程度の浅慮では、このさき出てくるであろう不都合には、対処できないよ」という印象が強いのだ。

そして、こうした著者の思考の浅薄さは、生成AI的に「もっともらしさ」のレベルで、思考が止まっているせいなのである。つまり、本書著者の発想とは、今の文書生成AI向きに「表面的」だからこそ、相性が良いのだが、その「相性」の良さというのは、あくまでも「読みやすい」という点においての良さであって、「深さ」に寄与するような相性の良さではない。そうではなく、むしろ「類は友を呼ぶ」的な相性の良さだとでも呼べるものなのである。

例えば著者は、実験的に画像生成AIで「背景画」を描いた短編アニメ『犬と少年』（牧原亮太郎監督）について、次のように書いている。

「もっともらしい文章」ではある。だが、ことは、そんなに単純なものではない。
ここで想定されているのは、「才能のある人の才能」を、いかに「有効活用するか」という問題だけであって、そこまでの才能を持たない人や、まだそこには達していない人のことが考慮されていない。

たしかにこのようにすれば、貴重な才能を「有効利用」することはできるだろう。しかし、このようなやり方では「才能を育てることができない」のだ。

どんなに才能のある人だって、最初からハッキリと「別格的天才性」を、わかりやすくは発揮するわけではなく、経験を積む過程の中で、その才能を「開花させる」といったパターンの方が、むしろオーソドックスであろう。
ところが、そういう「修行研鑽」段階としての「ルーチンワーク」が、生成AIによって代替されてしまうと、才能を秘め持っていた人たちの才能が開花する機会を、奪ってしまうという蓋然性が十分ある。

したがって、例えば、アニメ界が「才能のある人」を、継続的に生み出していくためには、やはり、一見して「無駄と見えるルーティンワーク」を「研鑽の場」として残しておく必要がある。
それが仮に、100人に教育して１人しか必要な才人を生まない、一見、非効率なシステムだとしても、才能がどこに隠れているのかがわからない以上は、ピンポイントで才人を育てるというわけにはいかないのだから、最初は、やる気のある人を大勢集めてきて、そうした人たちに、色々と経験を積ませることの中で、「篩にかける」必要性があるのだ。
したがって、結局は篩い落とすことになる99人に対し、労力と賃金をかけるのはもったいない、などと言ってそれをやらないでいると「必要な才能も見つけられない」ということになり、結局はアニメ界の人材不足を招くことにしかならないのである。

著者は、前述のアニメ『犬と少年』が、一部で炎上したという事例を、次のように紹介している。

この文章は、「アニメにも生成AIを使って、省力化を図るべきだ」という著者の立場に発した、恣意的な「印象操作」である。

つまり、「生成AIによる省力化」に反対するような奴は「こんなふうに、頭が悪い」という「悪しき実例」を挙げることで、「バカでなければ、反対はしない」という方向に誘導しているのである。

たしかに「アニメの背景はアーティストが描くもの、人がしないとは何事か」とか「アニメ制作者へのリスペクトを欠いている」などという意見は、「好きなものは、褒めておけば間違いない。そうすれば、そちらの側に立てる」といった薄っぺらいことしか考えていない者の、見るからに紋切り型の意見だ。
だが、本書著者は、このようなダメ事例を、ここでは自説に説得力を持たせるための道具として、意図的に逆利用しているのだ。
これは、戦争中に、アメリカでは日本人を「イエローモンキー」呼ばわりし、日本では敵国のアメリカ人やイギリス人を「鬼畜米英」などと呼んだのと同じで、「敵はクズだ」とする、初歩的な「印象操作」に過ぎないのである。

そもそも『特に海外では少々「炎上」的な反応が渦巻いた。』というのは、こう書いておけば、『犬と少年』をあまり評価しなかった日本人アニメファンの感情を逆撫でする蓋然性を減すことができ、まあ「アニメ後進国（外国）のファンなんて、そんなものだろう」など考えるように仕向けることで、自身への反感を反らせるための、これは意図的なレトリックだったのであろう。

しかしながら、いずれにしろ本書著者は、アニメに関しては、「ど素人」である。

例えば、『手書きと3DのCGを融合させた手法』と書いているが、アニメに積極的な関心を持って文章を書いているような人なら、こうしたところで、『手書き』とは書かずに、わざわざ「手描き」と書くはずだ。
もちろん、国語的には「手書き」でも間違いではないのだけれど、やはり、好きなものについては、その「ニュアンス」にまでこだわるから、「絵」は「書く（かく）」のではなく「描く（かく）」と、自覚的に「書き分ける」のである。一一それはここで、「描き分ける」と書くのが、明らかに不適切なのと同じことなのだ。

また、本書著者は、アニメ『少年と犬』について『心に響くアニメとなっている。』などと、知ったかぶりに書いているが、私が観たところでは、いかにも「ありきたりな泣かせのツボを押さえただけの作品」でしかない。つまり、文学的に言えば「俗情との結託」的な、通俗作品でしかない、ということだ。
一一だがまあ、このあたりは、本稿の読者個々の判断に任せておこう。

で、なんで、この程度の作品を、アニメのこともよく知らない本書著者が、分かったかのような顔をして褒めるのかといえば、それは「生成AIを使っての、アニメ制作の省力化」という方向性を、牧原亮太郎監督の「権威」を借りて、正当化しようとしたからである。
つまり、牧原監督が「良い作品を作れる、優れたクリエイター」でなければ、「権威」としての利用価値が発生しないから、同監督の作品を、「薄っぺら」に褒めて見せた、ということなのだ。

　○ ○ ○

そんなわけで、本書の問題点は、著者の主張が、所詮は「ポジショントーク」でしかない点だ。

たしかに、この程度の文章であろうと、「読みやすいが内容に誤りのある、生成AIによる文章」と同程度の説得力はあって、その「誤り」を見抜けない読者も、きっと少なくないことだろう。だが、だからこそ「タチが悪い」のだ。
本書の「問題点」を見抜くには、「生成AIによる文書」の「内容的な誤り」を見抜く程度の、読解力や国語力が必要なのだが、そもそも、生成AIの何たるかを考えたこともなければ、自分でまともな長文を書いたこともないような人間、生成AIをおもちゃのようにしか思っていないような人間には、その「誤り」を読み取る能力などないのである。

著者のこうした「ポジショントーク」の無責任さは、次のようなところにも、よく現れている。

『じつは日本は、AIの学習データについてはかなり精神的な議論が行われていた国でもある。』などというと、「日本にしては珍しいな」と、さもそれが「良いこと」のような印象を与えるけれども、要は、日本は、生成AIで稼ぎやすいための法整備を早くから進めた国であり、言い換えればこれは、著作権者の権利を軽んじている国だ、ということでしかない。

本書でも紹介されているとおり、日本やアメリカは「生成AI」の開発者に都合の良い法整備を行なっている国である。一方、それとは対照的に、EUは著作者の権利保護を重視していて、生成AI開発者に対して、各種の注文をつけて、野放しにはしていない。

この点について、本書著者は「政治的な思惑の違い」ということを強調しているが、要はこれは、日本やアメリカ、そして著者自身の立場が「資本主義的貪欲」に立脚したものであることを誤魔化そうとして、相対的な「立場の違い」論にすり替えているだけなのだ。
だからこそ、上の引用分の結論は、

ということになる。
つまり、日本では、国家が著作権者の権利を積極的に守る気はなく、「実害があったら、みなさんが個別に告訴してね」という話でしかない。
しかし、告訴や提訴というのは、そう簡単にやれるほど敷居の低いものでないのというのは分かりきった話で、要は、山ほど発生するであろう権利侵害の問題について、被害者の「泣き寝入り」を見込んだ、「国家の不作為についてのアリバイ的な、法の建て付け」にしかなっていないということなのである。

例えば、私が以前に紹介した、明らかな権利侵害だと思われる事例についても、私が報告してからでもすでに半年が経っているにも関わらず、被害者にあたるアニメーターのうるし原智志が、提訴した様子がない。
だから、モロパクリと言っても良いような画像が、今もそのまま「公開」されている。

無論これは、私の告発的な記事の存在に、うるし原本人が気づいていないという可能性も、ないではない。
しかし、ちょっとネット検索すれば目につくものであり、それなりに読まれている記事で、何よりも当人の問題なのだ。また、うるし原の知人の誰かが、私の記事を読めば、こんな記事があったよと、報告くらいはしていることだろう。

だが、にもかかわらず、なんの動きもないというのは、うるし原が「諦めて、放置している」という蓋然性が、きわめて高いのではないだろうか。

端的いってしまえば、同じようなことは、画像生成AIを使えば、誰にでもできてしまうし、だから、似たようなことをしている者は、すでに少なからず存在するだろう。それをいちいち告訴するのかと言えば、誰もそんな面倒かつ徒労に等しいことなどはしないだろうからだ。
そもそも、上の事例だって、それで「金儲け」をしているわけでもないだろうし、そうだとすると、裁判をしても「実害が無い」と判断される可能性だって十分にある。特に、日本やアメリカでは、そうなのだ。
だから、仕方なく「諦める＝泣き寝入りをする」というのが、当たり前の反応になってしまっているのではないだろうか。

しかし問題は、こうした「パクられる才能」被害の問題だけには止まらず、前述の「アニメ制作」と同様、「才能の育成」という問題にも波及していくだろう。
せっかく「オリジナリティのある作風」を努力して育てたとしても、それが一瞬にしてパクられてしまい、努力や投資が報われないのであれば、誰も苦労して才能を育てようとはせず、目先の楽な楽しみに走るだろうということである。
具体的に言えば、才能の開花以前の、地味なデッサンの練習なんか、誰もしないだろうということだ。

しかし、これも前述のとおり、「才能」というのは、もともと持っていたものが「自動的にそのまま出てくる」というようなものではなく、「磨くなかで開花する」という側面が大きい。
だから、その「磨く過程」を軽視して「成果だけを横取りする」ようなことを許すような「非倫理的な法体制」の下では、すでに才能を開花させて活躍している人は保護されるとしても、まだ才能を開花させていない人たちの才能は、効率性のゆえに潰されていくことになるだろう。

そして、これは「絵描き」とか「文章書き」とかいった、「特別な才能」の話には止まらず、人間の基本的な成長においても、同様に悪影響を及ぼす蓋然性が十二分にあろう。

著者が言うように「ルーチンワークはAIに任せて、人間はそれを俯瞰して指示する側にまわれば効率的だ」とか「人間は、真にクリエイティブな部分で、効率よく才能を発揮すればいいのだ」などと言ったところで、その肝心の「才能」を育てる「過程」が蔑ろにされ、「省力化」されていくなら、そこでは、才能のある人しか必要とはされず、しかも、その才能のある人が育たないということになって、早晩、人間社会はダメになるしかないのである。

私は、本稿の冒頭で、本書について、「生成AI」と同様に「読みやすくもっともらしいものにはなっているが、深みが無い」という趣旨の評価を語ったが、安易にAIに頼る方向が是認され、一般化するならば、本書著者の書くような本を書く「著作生成AI」は生まれても、決して「文豪」は生まれてこないだろうと、そのように指摘しておかねばならない。

その頃にはきっと、みんな「軽いものしか読めない」ようになっているから、それでも「実害はない」ということになるのかもしれないが、私にとっては、そんな「薄っぺらい世界」など、ディストピア以外の何物でもないのである。

（2023年10月28日）

　○ ○ ○

　○ ○ ○

・

・