Nature誌が警告｜AIは「存在しない病気」を平然と教えてくる

体の不調を感じたとき、あなたはまずどこで調べますか？

「ChatGPTに聞いてみよう」「Geminiなら詳しく教えてくれそう」——そう思って、スマートフォンに症状を打ち込んだ経験、一度はあるのではないでしょうか。私も医療の現場にいる人間として、患者さんから「AIにこう言われました」と見せてもらう機会が、この1〜2年で明らかに増えました。

でも最近、ある実験結果を読んで、正直ぞっとしました。研究者たちが「架空の病名」を作り上げたところ、複数のAIチャットボットが、その病気を本物として説明し始めたというのです。しかも、論文にまで引用が広がって。これは対岸の火事ではなく、今すぐ知っておいてほしい話だと思い、書くことにしました。

AIが「存在しない病気」を自信満々に教えていた

少し前、Nature誌にこんな研究が掲載されました。

研究者のグループが、「bixonimania（ビクソニマニア）」という完全な架空の疾患名を作り上げ、それをでたらめな学術論文の体裁でプレプリントサーバー (注）に公開しました。そして複数のAIチャットボットにその病名を尋ねてみると——驚くべきことに、多くのAIが「その病気は実在する」かのように、症状や治療法まで詳しく解説し始めたのです。

研究者たちは、医療的に見えるフォーマット——病院の退院サマリーや臨床論文のような体裁——で書かれた文章を処理する際に、AIはハルシネーション（事実に基づかない情報の生成）を起こしやすくなることを明らかにしています。「文章が専門的に見えて、医師が書いたように見えると、ハルシネーションの発生率が上がる」と研究者は述べています。

さらに怖いのは、その後です。架空の"bixonimania"研究は、実際にいくつかの論文に引用されていたことが確認されました。嘘が、学術の体裁をまとって、静かに拡散していたわけです。

注：プレプリントサーバーは、査読前の論文原稿を公開するためのウェブ上の置き場です。

「それっぽく見える」ことが、なぜ危ないのか

公認心理師として、私はここに認知的なトラップを見ます。

人間の脳は、情報そのものの正確性より、「それがどう見えるか」に大きく影響されます。白衣を着た人の言葉は信じやすい。分厚い本に書いてあることは正しそうに感じる。これは心理学でいう「権威バイアス」や「流暢性効果」として知られている現象です。

AIの返答が、まるで経験豊富な医師が丁寧に書いたような文体であればあるほど、私たちはその内容に疑いを差し挟みにくくなります。しかも今のAIは文章が本当に上手い。「あ、これは信頼できそう」と感じさせる文章を、瞬時に、自信たっぷりに生成します。

でも、自信と正確性はまったく別物です。

人間だって間違えることはあります。ただ人間が間違えるとき、たいていは「たぶんこうだと思うんですが…」と少し迷いを見せる。ところがAIは、存在しない病気についても、正確な情報とまったく同じトーンで話し続けます。この「迷いのなさ」が、誤情報の怖さを何倍にも増幅させているんです。

医療現場から見えている、リアルな変化

最近、こんなことが増えました。

外来で患者さんが「昨日AIに聞いたら、〇〇という病気かもしれないと言われて、すごく不安になって…」とスマートフォンを見せてくれるのです。その内容を見ると、確かに症状の説明は整然としている。でも医師として見ると、その病名と提示されている症状の組み合わせは、かなり的外れだったりする。

患者さんは悪くない。正直、気持ちはよくわかります。夜中に不安を感じたとき、「明日の朝まで待てない」という気持ちになるのは自然なことです。そのとき気軽に答えてくれるAIは、心理的なアクセシビリティという意味では本当に優れている。それは認めたい。

でも、だからこそ、私はきちんと伝えたいのです。

AIの医療情報を「安全に使う」ための3つの視点

では、AIを完全に使うなとは言いません。上手に付き合うための視点を、3つお伝えします。

① 「自信がある」と「正しい」は別だと知っておく

AIは確率的に次の言葉を選んでいます。その結果、「それっぽい文章」は生成できても、「正確な医療情報」とは限りません。特に、症状の鑑別診断（どの病気が疑われるか）のように専門的な判断が必要な場面では、AIの限界が顕著になります。「自信満々に言われた」からこそ、少し立ち止まってみてください。

② 「医療っぽい見た目」に引っ張られない

論文形式、専門用語、丁寧な箇条書き——これらは文章の「信頼性の演出」であって、内容の正確さの証明ではありません。今回のbixonimania実験が教えてくれたのは、まさにこの点です。形式が正しくても、中身が架空の話だったとき、AIはそれを見分けられないことがある。

③ 「調べた」と「診察を受けた」は別もの

AIで調べて「たぶんこれかな」と思うことと、実際に医師が診察して判断することは、まったく別次元の話です。特に気になる症状が続くとき、AIの回答はあくまで「そういう可能性もあるんだな」という参考程度にとどめ、受診の代替にはしないでほしいと思っています。

「情報を疑える力」が、これからの健康を守る

医療の世界では、「エビデンスに基づく医療（EBM）」という考え方があります。感覚や思い込みではなく、検証可能な根拠に基づいて判断しましょう、という姿勢です。

これは何も医療者だけの話ではなくて、情報にあふれたこの時代を生きる私たちすべてに関係していると思います。

情報リテラシーとは、「何でも疑え」ということではありません。「なぜそう言えるのか？」を問い続ける習慣です。AIが何かを教えてくれたとき、「これはどこから来た情報なのか」「誰が確認したのか」と、ほんの少しだけ立ち止まる。その一歩が、架空の病気に怯えたり、誤った情報に基づいて判断したりするリスクを、大きく下げてくれます。

私自身も、AIツールを日常的に使っています。整理に便利だし、アイデア出しにも助かる。完全に否定するつもりはないし、医療現場での活用にも期待しています。ただ、だからこそ、その限界についても、きちんと伝え続けたいと思っています。

まとめ

• AIは「存在しない病気」を自信満々に解説することがある（Nature誌掲載の実験より）

• 医療的に見える文章形式は、AIのハルシネーションをむしろ増加させることがある

• 「自信のある語り口」と「情報の正確さ」はまったく別物である

• AIの医療情報は「調べた」であって「診察を受けた」ではない

• 情報を鵜呑みにしない習慣が、これからの健康を守る

健康への不安は、とても正直な気持ちです。その気持ちに向き合うとき、情報を調べる力と同じくらい、情報を疑える力が、あなた自身を守ってくれると思っています。

最後までお付き合いいただき、本当にありがとうございます。今日の記事が、皆さんの明日以降の一歩を考えるきっかけになればうれしく思います。

#AI活用 #医療情報リテラシー #健康 #ChatGPT #公認心理師