Garbage in, Garbage out

今、スポーツ界を揺るがすある事件が話題になっている。

詳細はここでは触れない。ただ一言で言えば、このタイトルに尽きる。ゴミを入れれば、ゴミしか出てこない。

AIを使った判断が、取り返しのつかない結果を招いた案件として、これは単なるスポーツ界のスキャンダルではなく、デジタル時代の本質的な問題を突きつけている。

プロンプトの質という問題

まず問われるのは、何をAIに投げ込んだかだ。

恐らく、年齢や背景などの脈絡なしに「父親に暴力を振るわれた」という情報だけを入力したのだろう。そうすれば、AIは当然「保護が必要な被害者」という文脈で回答する。特殊な付帯状況を省いてフラットに質問すれば、そうなるのは自明だ。

AIは与えられた情報の範囲でしか考えない。入力が偏れば、出力も偏る。これがGarbage in, Garbage outの第一段階だ。

より深刻な問題 - 無批判な実行

ただ、プロンプトの質よりはるかに重大な誤りがある。

AIの一次回答を無批判に実行したことだ。

AIが「保護が必要」と答えたとき、そこで一度立ち止まる思考があれば、結果は変わっていたはずだ。これは情報リテラシーの問題ではなく、判断を外注することへの無自覚さだ。

デジタルネイティブ世代は「検索してAIに聞けば解決する」という習慣の中で育っている。その結果として、判断そのものを外注することへの抵抗感が薄れている。AIはあくまでも思考の補助ツールだ。最終判断の代替にはなれない。その認識が根本的に欠けていた。

AIの問題でも、児相や警察の問題でもない。AIを使う人間側の問題だ。

終わりの見えない恐怖

最後に、この件で最も怖いのはエンドポイントが見えないことだ。

この事件は独立した出来事として消えない。デジタルタトゥーとして、当事者家族にずっと付きまとう。意地悪な言い方をすれば、もっと大きな話題が起きるまで、人々の好奇の目に晒され続けることになる。

昔から、どんなに大きな話題も、それを飲み込むような話題が起きると収束に向かう。そこまで耐えるしかない。それが唯一の教訓かもしれない。

AIは鏡だ

AIは与えられたものを返す。思考を補助するが、思考を代替しない。

Garbage in, Garbage out——これはコンピュータサイエンスの古い格言だが、AI時代になって新しい意味を持ち始めている。

入力する人間の質が、出力の質を決める。AIがどれだけ賢くなっても、それを使う人間の判断力が伴わなければ、結果はゴミのままだ。

この事件が問いかけているのは、AIの限界ではなく、人間の判断力の限界だと思っている。