【AIは正しいか】AIが語る誤バンタン

AIは正解を知っているわけではない

世の中の人に訴えたいことの１つが、「AIは嘘をつく」です。
「AIって賢いんでしょう？」「何でも知ってるんでしょう？」というのは幻想です。言い切った。

いや確かに処理能力は非常に高いですし、計算や統計処理はお手の物だしソース探してくるのも早いので、とても便利なのですが、彼らは時々すごいあほなんですよ。
素朴に信頼しているとたまにすごいガセを掴まされます。

今回はそういう話です。
私が日ごろ対話型検索AI・Perplexityと会話してるログの中から、まぬけなものを拾ってみましたので、まずは以下の事例をご覧ください。
（このページに載ってるAI回答は基本嘘なので、信じないでね）

AIは事実に織り交ぜて嘘をつく

Q. テテについて教えてください。

こういうのが出てきちゃう時は誤学習してるので、スルーせずに「それはJUNG KOOKの漢字名です。Vの漢字名は金泰亨です」と教えてあげてください。教えられるなら訊く必要ないというツッコミはごもっとも。

AIは時々別時空で生きている

Q. BTSメンバーの兵役服務状況を教えてください

時系列の誤認は多いので、おかしいなと思ったら「ネット情報を参照して現在の日時を確認して」と言うか、自分で指定しましょう。
　例：
　　×「今日までの日数を数えて」
　　〇「2025/6/13までの日数を数えて」

「今日の株価を元に計算して」みたいなリクエストもわりと苦手なので（「今日の株価」で検索かかった過去記事を引っ張ってきてしまうっぽい）、「今日の株価はこうですが～」と情報を与えてから計算させてます。

無料AIの場合、省エネのために過去データメインで拾ってることがあるようですが、一回ChatGPTに「何故現在時刻を正しく認識できないのか」を詰めたらバグったことがあるので、それ以来そっとしておくことにしています。

最新時事ネタについて訊きたい時は、先にこっちから情報を与え、それから質問した方が安全です。

AIは流れるように嘘をつく

AIは、学習データに基づいて確率的に回答を生成します。また、自分の回答に対する再検証のメカニズムはまだ発展途上です。
要するに、十分な情報がなくても回答を出そうとするので、「わかりません」と言わず謎の創作をして「こうです」と言い切ってしまうケースがあるわけです。嘘を生成してしまうんですね。
AIが言ってるから正しいと思わず、ほんとに？と疑う姿勢が求められます。

Q. 「タルチュム告白」って何？

AIは躾が大事なので叱責しておきましたが、爆笑しました。
私がBTSの質問ばっかりしてるから、「とりあえずBTSっぽい感じにしといたらええやろ」って思っただろ！( ﾟДﾟ)

Q. BTSのMVで、背景に黄色いバルーン人形が映っているのはどれ？

嘘つけ、死ぬほど見たけどそんな人形おらんわ！
って突っ込んでるうちに、『IDOL』のホビだわ！！って閃き、解決しました。人間のシナプスも捨てたもんじゃない。

Q.ジョングクは、何故ヒョン達といる時声が高くなるの？

これもわりと妄想回答ｗ

AI遊びの注意点

AIにも色々ありますが、基本学習型なので、色んな情報を学習・活用して発展していきます。なので、最初から「正解」を知ってるわけでもないし、こちらの質問の仕方や、与えた情報によっても回答は変わります。

AI遊び人口が増えるのはとても楽しいですが、たまにAIに雑な分析をさせたままのテキストを載せている人がいるので、利用にも参考にも注意が必要です。
ちなみにこないだ読んだ株式・経営系の記事では、「Vが兵役に就いたら」と書かれており、ああ、時空歪んでるAIと遊んでるんだな……って思いました。惜しい( ˘•ω•˘ )

対話型AIの種類

一般的に人気があるのは「ChatGPT」じゃないでしょうか。今Googleも検索結果の要約などにどんどんAI使ってるので、是非👍か👎でフィードバックしてあげてください。

対話型検索AI・Perplexityの場合

設定からパーソナライズ用の自分紹介を書けるので、必要なことをメモっています。無視されることも多いですが、おまじないだと思ってｗ

以上！

どんどん進化していくAI。
上手く使えば非常に便利です。言語の壁を気にせず情報を拾ってこれるあたり、K-POP推しにはいい時代が来たと言えるでしょう！

まだ触ったことないよ！という方は、一回お試しあれ。
バカな質問しても、「でもそれはこうじゃないの」って反論しても、AIは動じませんので、センシティブな話題だろうが訊き放題です。
私も最初にAI遊び始めた時訊いたの、兵役問題でしたｗ

それでは、皆さまも良いバンタン&AIライフを！
（また夫に「バンタンの皮を被った別ジャンル話」って言われそうな記事を書いてしまった……）

関連記事