ChatGPTを活用できるかの分かれ道は幻覚（嘘）問題との向き合い方？
ChatGPTの重大な問題点の1つとして、幻覚（hallucination）がひんぱんに挙げられます。ChatGPTにおける幻覚（hallucination）とは要は、ChatGPTが嘘や事実と異なることを言うことです。
ハルシネーション（Hallucination）とは？
もっともらしいウソ（＝事実とは異なる内容や、文脈と無関係な内容）の出力が生成されることである。
ただ、わたしの場合、幻覚（hallucination）が重大な問題点として挙げられることがあまりピンと来ませんでした。もちろん、ChatGPTがまちがえるということは知っていますが、それはわたしにとってはあまり問題になっていませんでした。
とはいえ、最近思ったのは、これに対するとらえ方がChatGPTを活用できるかどうかの一つの分かれ道になっているかもしれないと言うことです。本日は、このあたりを言語化してみます。
ChatGPTを昨年の12月に使いはじめて多くの人におすすめしてきましたが、人によって反応が大きく異なります。「ChatGPT、生成AIへのそれぞれの人の向き合い方」はなかなか興味深いテーマだと感じています。
なぜ幻覚問題が重大だとみなされる？
人によっては「幻覚」がChatGPTを使わない理由となるという人もいます。例えば、「ChatGPTは嘘をつくから実用的は使いものにならない」といった意見や、「嘘をつくから子どもに使わせるわけにはいかない」といった声も聞かれます。
このパターンがあまりに多いので、なぜだろうと考えてみました。その結果、いくつか思いついた要因があります。
ChatGPTの使い方が違う
GPT-3しか使っていない
人間にも適当なことを言う人がいることを忘れている（？）
それぞれについて簡単にどういうことか解説してみようと思います。
①ChatGPTの使い方が違う
ChatGPTをGoogle検索のように調べ物に使うかどうかによって、捉え方が変わっている気がします。つまり、ChatGPTで調べ物をした結果、まちがいだらけの答えが返ってきて「これはダメだな、使い物にならない」と判断してしまっているのではないかと言うことです。
わたし自身は人名を聞くなどといった調べ物をするための使い方をしたことがほとんどありません。つまりGoogle検索の代わりにChatGPTを使ったことがほとんどありません。
現段階では、調べ物はGoogle検索でした方がよいでしょう。（Bing AIと言う手もありますが。）東大の副学長もその使い方は違うんじゃないの？と言うようなことをインタビューで答えていました。
自分の名前を調べてみるといった、ChatGPTの最もさえない使い方では駄目です。
「ChatGPTの利用前提に全てを見直す方向へかじを切る」、東京大学の太田副学長
「GPT-3.5」を使って自分の名前を調べた結果、ろくでもない答えが返ってきて、「使い物にならないね」と言っている人は案外多いのではないでしょうか。それで安心して「大した影響はない」と考えているとしたら、本質を見失いかねません。
「ChatGPTの利用前提に全てを見直す方向へかじを切る」、東京大学の太田副学長
ちなみにChatGPTと検索向けのBing AIの使い分けについてはこちらの記事で解説しています。
②GPT-3しか使っていない
GPT-3とGPT-4は性能が大きく異なります。司法試験のスコア、数学など試験問題の正答率は大きく異なります。また、日本語で使う際の間違いもGPT-4でかなり減少したと言われています。
【GTP4】GPT4のテストスコア
— Takuya Kitagawa/北川拓也 (@takuyakitagawa) March 15, 2023
高すぎるw SATの合計が1410もある
私がハーバードに入った時のスコアよりも高いと思うw pic.twitter.com/QHSTIiUcYV
たしかに、GPT-4を利用するためにお試しで2600円を支払うことはすこしハードルが高いかもしれません。しかしこのようなケースで、GPT-3の性能がChatGPT、生成AIの限界だと誤解することが起きているのではないかと予想しています。さらに、ChatGPTは大したことがないと思っている人たちは余計に課金しないこともありそうです。
③人間にも適当なことを言う人がいることを忘れている（？）
もちろん世の中には適当なことを言う人はいるわけですが、いつも鵜呑みにすることはないと思います。わたしはChatGPTや生成AIと接するときも、人間相手と同じように言っていることを読んだり聞いたりすればいいと思っています。
わたしのとらえ方は、ChatGPTは以下の記事で書いたように、つねに隣でサポートしてくれるような存在です。
今後どうなる？
今後、AIの能力は確実に上がっていくでしょう。人間よりも間違えない（つまりたいていの人間よりも正確性が高い、嘘をつかない）存在になる可能性もあります。もしかすると、すでにGPT-4は、何割かの人間よりは正確かもしれません。
いまAI使わない人たちは、正確性が高まったころに使うようになるのかもしれません。ただし、そのころにはAIを使用するスキルにに差がついている可能性があります。
また、これはわかりませんが、子どもの場合は考える力そのものに差がつく可能性もあります。今後、たとえば、親や現在の学校の先生とAI、どちらに教わる方が思考力や学力がつくのかという議論が起きるシナリオもありそうです。
終わりに
ちなみに、多くの人がなぜGoogle検索でわかることをChatGPTに聞くのか？という疑問も、また一つの大きなテーマになる気がします。
自分の問題や課題にChatGPTの能力をどう当てはめたらよいのか、活用法を見つけることが今後のAI活用の鍵となるでしょう。最適な使い方を見つけることが、ChatGPTを効果的に活用するために重要な要素になります。
