AIが賢くなったから危ない、は本当か

包丁がよく切れるから危ない

とある雑誌の記事で、AIが賢くなった事で嘘を見抜きにくくなった、という事を懸念する内容をみて、何だか湧いてくるモヤモヤ感を解消したく、また、AIを開くのです。

例え話は比較的得意な私ですが、上手く持って行かれた感じです。今度チャンスがあったらこのワードを使おうと思います。

ところで、この「包丁がよく切れるから危ない」というワード自体、AIはどこから引っ張ってきたのでしょうか？
実は、知らないだけで巷ではよく使う表現なのかもしれません。

とりあえず検索してみると、予想外に「切れる包丁が危ない」という話よりも「切れない包丁の方が危ない」という話の方が多くでてきます。
理由は単純で、切れない包丁は食材を切るために余計な力が必要になり、その結果、刃先の制御がききにくいからです。

いずれにしても、問題は生成AIが間違えることではなく、間違いが正解の顔をして出てくるようになったと言うことです。
少し前のAIの嘘は分かりやすかったので、事実関係や文脈の不自然さから「これは怪しい」と人が気づきやすかったのではないかと思います。
余談ですが、過去に英文のマニュアルの翻訳を頼んだら、そのマニュアルに全く書かれていない文章が大量に紛れていて、流石に気づいたことがありました。

ところが、今のAIは賢くなったこともあり、文章の整合性や専門用語も正確な上に論理の流れも自然になりました。
つまり、よく切れる包丁になったと言うことです。

よく切れる包丁は、危険です。それはなぜかと言うと切れるからではなく、切れていることを忘れて扱ってしまうからです。
出力の完成度が高くなったことで、明らかな誤りは減りました。しかしその分、人は「今回は大丈夫だろう」と確認を省くことが普通になってしまいます。その結果、たまに混じる嘘ほど、見逃されやすくなったのです。
もしAIが人間で、よく出来る新人からスーパー新人に変化したとしても、私たちは、彼が新人である限り、判断の最終責任が自分にあることを前提に、最低限のチェックはするはずです

だからこれは、AIが賢くなりすぎた事が問題ではなく、賢くなったAIの本質を忘れ、昔の感覚のまま扱っている人間側の問題なのです。

ふぐを捌くにはふぐのことを知らなければならない

私は冒頭のAIの出力を超えることが出来たのだろうか…

非関連記事

自己紹介