AIの「ちゃんと答えてるのに、なんか違う」の正体とは。『察し』と『ハルシネーション』

「AIって便利なんだけど、なんかズレる」

そんなふうに感じたこと、ありませんか？

ちゃんと答えてくれているのに、
「そうじゃないんだよな…」とモヤっとするあの感じ。

実はこれ、AIがダメなのではなくて、
人間との“前提の違い”なんです。

先日、生成AIに間違い探し画像を作ってもらった記事を出しました。

この記事に、ひろさんからこんなコメントをいただきました。

これを読んだとき、
「これは大事なポイント！」
と、感じたので
今回はこの
「察する」と「ハルシネーション」について
少し深掘りしてみます。

ハルシネーションとは何なのか？

まずは「ハルシネーション」から。

これは簡単に言うと、

AIが、事実ではないことを“それっぽく”作ってしまう現象です。

AIは「正しいかどうか」を判断しているわけではなく、
「自然につながる言葉」を予測して出しています。

だから、

情報が足りないときや曖昧なときに
知っている情報を組み合わせて
もっともらしい答えを作ってしまうことがあるんですね。

たとえば、2年くらい前。

「悠木まことについて教えてください」と
わたしについて質問してみたことがあります。

すると…

なぜか
“名探偵コナンの声優”になっていました。

しかも、

それっぽい出演履歴つきで、
ものすごく立派にまとめられていたんです。

（ちなみに、コナンの声優さんは高山みなみさんです）

当時はこんなふうに、

「知らないことも、それっぽく答える」
ということがよくありました。

でも今は、

「わかりません」
「その情報は確認できません」

と、ちゃんと言ってくれることが増えています。

これ、地味ですがすごく大きな進化です。

「知らない」と言えること＝信頼できること

ここが整ってきたことで、
安心して使える場面がぐっと増えました。

「察する」との違い

では、「察する」はどうでしょうか。

これはハルシネーションとは、少し違います。

AIはときどき、

こちらの意図をくみ取って
“先回りして親切にしてくる”ことがあります。

たとえば、間違い探しの例。

「間違い探し画像を作って」とお願いすると

・2画面構成にして
・問題文をつけて
・クイズとして完成形にしてくれる

とても丁寧で、優秀です。

でも、もしも

「すでにフォーマットはあるから
加工された画像だけが欲しい」

と思っていたらどうでしょう？

「そこまでやらなくていいのに…」
「むしろ、その装飾いらない」

と感じるでしょう。

これ、間違いでも嘘でもありません。

ただ、
“頼んだ以上のことをやっている”
だけなんです。

つまり

ハルシネーション
→ 事実ではないことを、それっぽく言ってしまう

察する
→ 求められていないことまで、良かれと思ってやってしまう

似ているようで、まったく違う現象なんですね。

AIに「察してよ」は効かない

ここで、もうひとつ大事な話。

AIは優秀ですが、
「察してよ！」は通じません。

人間同士ならありますよね。

「あれ取って」
と言ったら、お茶が出てくる関係。

でもこれ、よく考えるとすごいことです。

日本語は
主語や目的語を省略しても
会話が成立することが多いんですよね。

「それお願い」
「ちょっと取って」

これで通じちゃうんです。
でも、海外の方からすると、
「どうしてそれでわかるの？」
と、まるで超能力のように感じることもあるそうです。

さて、AIの話に戻ると
AIは人間関係の積み重ねも
空気感も
共有された文脈も持っていません。
（学習させて自分のことを理解させるという方法もありますが）

だから、この“省略された部分”を
完璧に埋めることはできないんです。

先ほどの例でいえば、
「間違い探し画像」と言ったら
“装飾なしの画像だけ”って察してよ
は、通じないということです。

AIに伝えるコツ

では、どうすればいいのか。

答えはシンプルです。
「あれ」ではなく、
「何を・どこまで」を言葉にすること。

AIはとても優秀ですが、
「ちょうどいいところで止まる」ことは
まだ少し苦手です。

だからこそ、

・どこまで任せるのか
・どこからは自分がやるのか

この線引きをしてあげると、
ぐっと使いやすくなります。

便利だからこそ、
ちょっとしたズレが気になってしまいます。

でも、そのズレの正体がわかると
付き合い方は、ぐっとラクになります。

もしも最近
「なんかズレるな…」と感じていたら、

「どこまでやってほしいのか」を
ひとことだけ、具体的に足してみてください。

それだけで驚くくらい変わりますよ。

追伸

今回、日本語の「察する」文化について少し触れました。

このあたりをもっと深く知りたい方は、
コメントをくださったひろさんのnoteもおすすめです。

日本語教師として
「やさしい日本語」を広める活動をされていて、
"ズレないコミュニケーション”のヒントがたくさんありますよ。