生成AIと「華氏451度」②

前回、生成AIが非常に便利で強力なツールとして急速に普及している状況が、レイ・ブラッドベリが「華氏451度」という本で描いた世界に似ているような気がしました、と書きました。
そしてAIにそのことを質問した答えとしての、それらの類似点や共通点を挙げ、また、相違点として、
・AI利用の目的は国民をコントロールすることではなく、ユーザーの利便性を高めること。
・焚書のような知識へのアクセス制限はなく、むしろそのアクセスの機会が増えていること。
・多くの批判的な議論が存在していること。
などといったことも書きました。
今回はその続きです。

この相違点について個人的には、やや懸念すべき点もあるような気もします。それは、AI利用の目的は国民をコントロールすることではなく、ユーザーの利便性を高めること、という点についてです。
「華氏451度」で描かれたように、政府が明示的・強権的に国民をコントロールしなくとも、見えない形で、知らず知らず人々の目が特定の方向へと向けさせられる危険性も否定できないのではないでしょうか。

現在、生成AIについて懸念されることとして、誤情報の生成、偏見の増幅、倫理的な配慮の欠如、批判的思考の低下などといったことが議論されているそうです。
生成AIは「パーソナライゼーション機能」や「レコメンド機能（推薦機能）」が、従来のウェブページ閲覧よりもさらに強化されているそうです。ですからそこには、フィルターバブルやエコーチェンバーの強化への懸念もあるのでしょう。

そして、上記の相違点の中の、多くの批判的な議論が存在していることについても、その批判的な議論の中に、感情的・短絡的なものが増えてきているような気がします。それも前述の、現在議論されている懸念事項の現れのひとつなのではないでしょうか。

これらのようなことは、宗教やイデオロギーへの盲信のメカニズムと同様のようにも思えます。
そのような盲信は、人々を大きな不幸へと引きずり込んでしまうような気がします。
私たちは生成AIの利用にあたり、その負の側面への認識も怠らないようにしなければならないのでしょう。
「華氏451度」に描かれたディストピアが現実のものとならないように。