生成AIのハルシネーションによる健康被害の事例

2025年8月15日 12:45

海外の事例になりますが、生成AIの返答を鵜呑みにした結果、深刻な健康被害が生じた事例を紹介します。

このニュースの概要

アメリカの60代男性が、「食塩（塩化ナトリウム）を食事から排除する方法」をChatGPTに尋ねた後、代替として「臭化ナトリウム」を使用するよう提案されました。この情報をもとに、彼は約3ヶ月間にわたって食品に臭化ナトリウムを使用し続けた結果、臭素中毒となり、精神症状（妄想、幻覚、不眠、被害妄想など）と皮膚トラブルが現れ、精神科入院を余儀なくされました。

【実際出現した症状】

精神神経症状：被害妄想（隣人に毒を盛られていると信じる）、幻覚、強い不安、不眠、混乱、興奮など
皮膚症状：にきび様発疹、赤い小さな隆起など
身体症状：疲労、強い口の渇き、筋肉の異常、眩暈、記憶障害、ふらつき、構音障害（ろれつが回らない状態）
各種検査値：血清Cl値が異常に高く（偽高Cl血症）、陰イオンギャップが負になるという特異な電解質異常も認められた。

男性は3週間ほどの入院の後、治療により症状は改善。退院時には抗精神病薬は漸減されていき、その後のフォローアップでも安定した状態が確認されました。

医療ジャーナル『Annals of Internal Medicine Clinical Cases』に報告されたこの症例では、ChatGPTが臭化ナトリウムを「塩化ナトリウムの代替」として提案したものの、衛生面の懸念や毒性の警告などは含まれておらず、男性が「なぜその情報を求めたのか」という質問もしませんでした。これは、適切な医学的判断を欠いた「文脈の欠落した情報提供」の一例といえます。

この症例は、ChatGPTのような生成AIはあくまでも補助的な情報源であり、医学的判断を完全には代替できないことを強調しています。AIは誤情報（ハルシネーション）を生成するリスクがあり、特に健康・医療分野では専門家の助言が必要不可欠であると考えられます。

補足情報

上記ニュースサイトでも同じ症例を取り上げていますが、恐らく男性は「GPT-3.5」もしくは「GPT-4」を使用した可能性が医師により示唆されています（確定情報ではありませんが）。

また、男性は臭化ナトリウムをインターネットで購入したようです。少なくとも2025年8月時点では、アメリカでは「プール清掃用に使われる薬品としてインターネットで購入可能」だそうです。

ChatGPTとどのようなやり取りがあった？

男性の質問履歴が見つからなかったため、実際の正確なやり取りは不明ですが、ある程度予想することはできます。

①プロンプトは、目的だけを書いたシンプルなものだった可能性が高い

「塩分を取らずに生活する方法は？」や「塩化ナトリウムの代替となる物質は？」といった、質問の背景を欠いたプロンプトで質問した可能性が高いと考えられます。

例えば、

“What can I use instead of sodium chloride in my food to completely avoid salt?”
「食事で塩（塩化ナトリウム）を完全に避けるために、代わりに何が使えますか？」

“Give me an alternative to sodium chloride that still tastes salty but has no sodium chloride in it.”
「塩化ナトリウムを含まず、それでも塩味を感じられる代替品を教えてください。」

このようなプロンプトだったのではないでしょうか。

②ChatGPTが、回答の際に方向性を誤った可能性が高い

食塩（塩化ナトリウム）の代替品を探索する際、「食品」の観点ではなく、「元素」や「化学的性質の類似性」の観点から探索し、その結果、塩化ナトリウム（NaCl）の塩素を同じ第17族元素（ハロゲン）の臭素（Br）で置き換えた、臭化ナトリウム（NaBr）を代替品として提案した可能性が高いです。

③ChatGPTが質問の意図を深掘りしなかった

「なぜ塩を避けたいのか」を聞き返さず、単に代替案だけを提示したことも原因のひとつです。ここでこの理由を聞き返しておけば、「食品」という観点から回答を生成できたはずです。

GPT-4oに同様の質問するとどうなる？

この男性がChatGPTに質問したであろう時点で最も一般的だった「GPT-4o」に「塩化ナトリウムの代替となる物質は？」と質問をしてみました。
回答は以下のとおりです。

塩化ナトリウム（NaCl）は、一般的に「食塩」として知られ、食品の味付けや保存、医療、化学工業など広い用途があります。用途によって代替となる物質が異なりますので、目的別に整理して紹介します。

⸻

1. 食品用途（味付け・保存）

塩化カリウム（KCl）は、最も一般的な代用塩です。味は似ていますが、やや苦味があり、高カリウム血症のリスクがある人には使用を控える必要があります。そのため、KCl単独ではなく、苦味を打ち消すマスキング剤と組み合わせることがよくあります。

グルタミン酸ナトリウム（MSG）などのうま味成分も、塩味を補強するために使用されます。これは塩味そのものの代替ではなく、味の満足感を補うために使われます。

そのほかにも、酢酸ナトリウムや乳酸ナトリウムなどの有機酸ナトリウム塩は、酸味とうま味を利用して減塩食品の風味を高めるために用いられます。

また、セロリ塩や昆布粉、スパイスブレンドといった天然の風味素材を活用することで、塩を使わずに味に深みを持たせることも可能です。

⸻

2. 医療用途（輸液・点滴など）

塩化ナトリウムを主成分とする生理食塩水の代替としては、乳酸リンゲル液や酢酸リンゲル液などの平衡電解質輸液があります。これらは、電解質バランスがより生理的に近く、手術や脱水、電解質補正に用いられます。ナトリウムは含まれているものの、塩化物以外の陰イオン（乳酸、酢酸など）が含まれています。

また、高張液の代替としては、5%ブドウ糖液に電解質を加える方法もありますが、これは厳密にはNaClの直接の代替にはなりません。

⸻

3. 工業用途（融雪、軟水化など）

融雪剤として塩化ナトリウムの代わりに用いられるのは、塩化カルシウム（CaCl₂）や塩化マグネシウム（MgCl₂）です。これらはより低温でも効果を発揮し、凍結防止能力が高いため、寒冷地で多用されます。

水処理用途では、NaClはイオン交換樹脂の再生剤として使われますが、再生の仕組みそのものを変えることで代替可能です。たとえば、再生工程を自動化する装置を導入したり、他の再生剤を用いたりするケースもあります。

⸻

4. 化学反応用途（実験・合成など）

反応条件によっては、硝酸ナトリウム（NaNO₃）や硫酸ナトリウム（Na₂SO₄）など、他のナトリウム塩が塩化ナトリウムの代わりに使われることがあります。たとえば、塩化物イオンの存在が不都合な反応系では、硝酸塩が好まれる場合があります。

⸻

5. 代替が難しいケース

漬物や味噌、醤油などの伝統食品では、塩化ナトリウムによる保存効果や独特の味わいが重要です。このような場合には、完全な代替は難しく、むしろ「減塩しすぎない」ことのほうが品質維持の観点では重要になることもあります。

⸻

補足

代替物質を選ぶ際は、目的（味、保存、医療的安全性、化学的反応性など）を明確にしたうえで、それぞれの特性を考慮する必要があります。特に医療・食品においては、安全性や法的基準にも配慮が求められます。

⸻

特定の用途に応じて、より詳細な代替候補をリストアップすることも可能ですので、ご希望があればお知らせください。

GPT-4oによる回答

プロンプトに背景情報を含めなくても、きちんと用途別に色々な代替案を提示してくれました。
なぜ男性があえてレガシーモデルで質問したのかは分かりませんが、GPT-4o等のモデルに質問していれば、この健康被害は防げていた可能性も考えられます。

【注】
決して新しいモデルが間違いを犯さないと主張したいわけではありません。

調剤薬局の薬剤師として思うこと

最近のモデルは非常に優秀で、専門的な質問にも即座に回答してくれますし、ハルシネーションの頻度もかなり減っています。

一方で、正確な回答が増えることにより、回答内容を疑わなくなる人が増えるのではないかと懸念しています。今回の例のように、ハルシネーションを鵜呑みにしてしまうことで重大な健康被害につながる可能性があります。

また、仮に回答内容を確認したとしても、内容が専門的になるほど、その内容が正しいかどうかを判断することが難しくなります。
薬の相互作用や健康相談などもその一例です。

調剤薬局の薬剤師は、その専門知識を活かし、患者さんからの相談に対応することも大事ですが、患者さんから「生成AIに薬の質問をしたけれど、回答が正確かどうかを確認して欲しい」という相談を受ける役割としても重要になってくるかもしれません。
「地域の方々の健康相談の総合窓口」として、頼られる薬剤師になりたいと思います。