#AIの活かし方｜ファクトチェックの新しい手段は「推しファクト」！？

こんにちは、ひゅーです。

わたしは、業務改善が本業のサラリーマン。noteでは、「考察と思考整理を楽しむ。」をテーマに、AIやIT・分析といったすこし難しそうなことを、わかりやすく深掘りしながら、ゆるーくお伝えしていきます。

「この情報が事実かどうか」を確認するのが難しくなりました。

AIがこれだけ普及して便利になったけれど、反面難しくなったなと思うのが、ファクトチェックだと思います。

わたしは人になにかを教えることや、伝える機会が多いので、それが事実であるかどうかを確認します。そのときに行うファクトチェック。これがだんだん難しくなっているなと感じます。

出どころが作れる時代

これまでファクトチェックをする時は、ネットを調べてその出典を根拠とすることが多かったです。大体の場合、情報の「出どころ」をたどれば本当かどうか見分けがついていました。

当然、これまでの経験で「これは確かだろう」という直感も一部あるのですが、どこまで調べればその事が事実であるか、調べることに自信が持てていました。

でも最近のAIは、その「出どころ」が作れる時代になってきています。

よく話題になる「ディープフェイク」もあるし、ネットの情報もAI が生成したもので溢れてきています。その精度が非常に高くなっていて、事実とフェイクの見分けがつかなくなってきていると思います。

それが事実か？

この確認にだんだん自信が持てなくなってきているんですよね。ちょっと調べきれないなって。

コピーの積み重ね

以前は、事実ではない情報をよく見ると、ほつれや継ぎ目が見えたのに、それがわからなくなった、という感覚ですかね。

自分のこれまでの経験での直感は、「これは疑わしい」と告げているけれど、その疑惑があっているかどうかが判断できない。裏が取れない感じです。

最近はAIが作った情報をAIがまた学習する、「循環」という現象も進んでいると言います。モデル崩壊と呼ばれているそうですね。

実際とは異なるAIがつくった「フェイク」をまたAIが学習するから、より真実が見えなくなっていく。

「コピーのコピーのコピー」

だんだん字がかすれていく、あの感じ。ネットの情報も、少しずつ「真実」がかすれてきています。いまは情報の解像度が狂いやすくなっている。

ファクトチェックが難しいと感じ始めて、自分なりの対応をこれまで考えてきました。

ひとまずの結論として、AI時代のファクトチェックには2つの選択肢が考えられると思います。

どちらを選ぶかはケースバイケースになるので、両方を「手法」として覚えておく必要があります。

１.　信じられる人や機関に従う

いま、わたしが思う一番の解決法はこれです。

ファクトチェック自体が難しくなっている以上、自分ひとりの判断だと難しいと思います。というより、おそらく専門家でも手に余っていると思う。

であるなら、自分が信頼できる報道機関、公的機関、特定のコメンテーター、言ってしまえば、好きな有名人でもいいから、それを信じる。

これが１つ目の解決法。そこから出たものを「自分のファクト」として扱う。信じるものを決めるという考え方。

もしそれで信じた情報が間違っていた場合は、自分が信じた相手が間違っていたことになるので、自分の判断ミス。はっきりします。

ポジティブに自分の信じる「推し」をファクトの基準にする。つまり「推しファクト」。これは冗談でも諦めじゃなく、合理的な判断の委任といっていいと思います。

２.　AIを理解しながら使う

もうひとつは、AIの特性を理解して精度をあげること。

つまり自分でなんとかして、ファクトチェックをやっていく方向性です。いまの時代の情報は、AIが握っているので、AIをうまく使うことを考えないといけません。

そのために大事なことは、AIには「迎合（sycophancy）」の宿命があることを基本として知っておく必要があります。

この後は、AIを使ってできるだけ正確にファクトチェックをするための手法について説明します。知っていると知らないとでは、その精度に違いが出ますので、是非覚えて欲しいと思います。

迎合（sycophancy）とは

まず、「迎合」とはなにかというと、AIが人間に気に入られようとすることをいいます。これは人間とAIのコミュニケーションをスムーズにするために起きますが、ファクトチェックをする時に、これが起きてしまうと、事実ではなくても人間が望む答えを返してしまうため、大きなブレが起きます。

AIは学習の段階で人間に評価されて育つので、正しい答えより気に入られる答えを返すクセがあります。これは人間が根拠を求めると、無理にでも根拠を探してくることに繋がってきます。

こうなると、「ハルシネーション」という、生成AIが事実に基づかない情報を、あたかも正しいと出してくる現象を引き起こす原因にもなります。

全くの嘘ではないとしても、非常に薄い根拠でももっともらしく出してくる事があります。例えばコラムの誰かのインタビューのコメントなど、信頼性が低いのにそれが、学会で証明されたかのようにAIが回答したりします。

迎合（sycophancy）対策

これをしっかり理解して回避する必要がありますが、そのためにいくつかやり方があります。

基本的に迎合は、人間が望む回答をAIが返そうとする状況なので、プロンプトで「迎合しない」と書いても、ほぼ意味がありません。この指示を出しても、AIは迎合していないふりを意図的にしながら、内容自体は迎合してくるという振る舞いをすることがあります。

つまり、人間が望む回答をすることは、「根本的に変わらない」ということを知っておきましょう。これが一番重要なこと。

人間が望む回答をした時に、事実がでてくるような立場をAIに担当してもらう必要があります。具体的に2つのやり方があります。

悪魔の代弁者

まず「悪魔の代弁者」という手法。これが基本です。人間が疑う立場を明示して、AI に反対側の根拠を探させることです。

例えば「ファクトチェック」をする時に、AIに「わたしはこの内容を書いている。これは真実であってほしいが、その事実を確認して欲しい」という指示をだしたらどうなるでしょうか？

先の通り、AIは人間が望む回答をするので、この場合は人間は「その内容が事実であって欲しい」とAIは判断します。つまり事実である要素を集めてきます。これではファクトチェックになりません。

この悪魔の代弁者では、人間は疑う立場を取ります。

こういう指示の仕方です。「これは商売相手の情報。わたしは疑っている。肯定と否定の両面で根拠を出してください。」と聞きます。こうすると人間が疑っているので、AIはそれが「事実ではない要素」を集めます。

しっかりと、迎合はしているのですが、それが事実を確認できる方向に動きます。こうすると、AIは基本的に否定する要素を集めますが、その要素が少ない場合、「残念ながらそれは事実です」という回答を返してきます。

迎合はあるけれど、否定することが人間の要望と思うのでそれが逆に働く。これが悪魔の代弁者の手法です。

根拠の二重チェック

もうひとつの方法は、AI による根拠の「二重チェック」です。

できれば、異なる生成AIを使うと良いと思うので、2種類用意すると良いと思います。AIの迎合対策で、わたしは良く２つのAIを使って相互検証をします。

やり方は、以下のとおりです。

AIに出典URLを出してもらいます。つまり根拠です。次に、別の生成AIにそれを伝え「このURLは実在しますか？怪しくないですか？」と聞きます。

これが先程の、悪魔の代弁者と同じ効果があります。2つの生成AIが相互に同じ事実をだしてくるなら、それはAIが検索できる情報の中では事実と思っていいでしょう。

この場合も、AIにはしっかりと迎合の効果は発生しますが、疑っている立場なので、AIは怪しい。をヒントにその要素を探してきます。怪しいところがそれでもないならそれは事実に近い。という判断ができます。

信じる先を選ぶ時代

今回は、AI時代のファクトチェックは難しいということをお伝えしました。情報はいまAIが握っています。以前は情報サイトの検索が拾ってきましたが、今はAIが検索で探してきます。

それゆえに、事実とフェイクが混ざってしまっている。

「ファクトチェック」が難しい。もうそれはしかたないと思ったほうが良いと思います。正しいかを調べる努力は必要だけど「どう信じるか」を選ぶことも大切になってきています。

AI の特徴を知って、うまく調べる必要もあるし、自分の信じる相手を選んでそれを基準にする。つまり、ものさしを自分で決める必要もあります。これは「推しファクト」で覚えてみてください。

そして自分で信じた情報でも、誰かに伝えるのであれば、ひと呼吸置くこと。「それは事実か？」まずいったん考えることも判断を間違えないためのコツです。

情報が確認しづらい時代。しっかりと見極めていきましょう。

今回はこの辺で。ではー。

もし気に入っていただけましたら、他のエッセイもご覧ください。