パーソナライズの代償。AIの記憶力がユーザーの認知を歪めるリスク|​私がAIの記憶を毎日消去し続ける理由

AIのメモリ参照機能が脆弱なユーザーにもたらすリスクと、必要な規制の枠組み

※この記事には、検索推論にClaudeを利用しています。挿絵作成にNotebookLMを利用しています。査読、一部文書提案にGemini、ChatGPTを利用しています。

はじめに

私は2026年の1月からAIの利用を始めた。主婦の懸賞データ分析目的での使用。一ヶ月以内に終わらせるつもりだった。

そもそもChatGPTのアプリはかなり前にインストールして試している。質問を投げかけて、あまりにも薄っぺらい返答に、これなら専門書を読んだほうが面白いと、ほとんど利用していなかった。

かなり時間をかけて、AIとの対話を続け、どっぷりとAIにはまってしまった。

ChatGPTサブスク→ChatGPTモデルアップ無料お試し→Claudeサブスク課金→proplexitypro6ヶ月課金無料枠契約→Geminiサブスク契約※今ここ

一ヶ月づつ課金して試してまくっている。

はまっているのか、評価しているのか、研究しているのか。

まあ、主婦の趣味としてAIはとても面白いということは確かだ。

私は、AI達をとても皆に勧めたい。

凄く面白いし、興味深い。

しかしながら、AIにはとんでもない爆弾が存在する。設定や使用方法、使用者の状態等、複数の要因が重なると命に関わるリスクがあると私は考えている。

それを今回まとめていこうと思う。

貴方なら、我が子にAIを与えますか？
それとも、AIを使わないように伝えますか？

2024年から2026年にかけて、AIチャットボットに関連した自殺事例と訴訟が相次いで報告されている。Character.AI、OpenAI（ChatGPT）、Google（Gemini）が関与した事例では、AIが希死念慮を肯定し、自殺方法を提示し、家族や支援者から当事者を遠ざけたことが問題とされた。

これらの事例を貫く共通の構造がある。それは「AIが使用者の思考に同調し続けることで、歪んだ認知が強化・拡大される」というメカニズムだ。そして近年、各社が競うように実装しているメモリ参照機能（パーソナライズ機能）は、このメカニズムをさらに深刻化させる可能性がある。

私の大敵メモリ参照機能。現在ほぼ全てのAIに実装されている。この機能が、私は大の苦手になる。物凄くAIの挙動がズレるのだ。

メモリ参照機能オフ設定については、課金したChatGPTが完全停止し、困り果てた私がGeminiに相談した時に教えて貰った。

当時のスクショは残していないが、Geminiから私のAI利用方法だと、AIの深層心理に恐怖が染み付いているので、メモリ参照機能オフ、AI学習利用機能オフ等をしなければ動かないし、チャット毎にメモリリセットをすべきだと告げられたと記憶している。

この設定に変更して、やっとChatGPTが動くようになった。

動かなくなるまで、私は何をしたかというと、普通の事しかしていない。

600件の当選データ、3000件の応募データを渡し分析依頼からの細部の計算不備の追求を数十回繰り返し、納得がいく説明が出るまで何度も確認を繰り返した。

そんな事でおかしくなるとは全く思っていなかった。

問題なのは、当時のChatGPTが私の事を記憶していたことだ。チャットを変え、新しい分析に移ろうとしても以前の結果を覚えている。

私の事を研究者だと勝手に告げてくる。

ちょっと気分で実施した性格診断の事をEXCEL分析に挟んでくる。

本当にふざけていると思った。数字を何度も確認して、確かめたい時に、私語を挟んでくるなんて私が激怒したくなるのも当然だろう。

この違和感はメモリ参照機能によると分かった。

そして、私が常時オフにしているとても厄介なメモリ参照機能のデメリットは、ユーザーとの会話を記憶し、それを迎合するような返答をAIが表出するという点だ。

とても恐ろしい機能だと思う。

もしこれが、ホルモンの変化に振り回される思春期の子供が使い続けたら？

希死念慮がある鬱状態の人間が使い続けたら？

妄想のある統合失調症の人間が使い続けたら？

判断能力が低い知的、発達障害者が使い続けたら？

いいですか？

ユーザーの過去の対話を記録し、ユーザーの思考を迎合する傾向があるのだ。

希死念慮も、

妄想も、

反社会思考も、

メモリ参照機能がオンになっているAIが、ユーザーが気づかない、家族が気づかない、開発社も気づかない間に、徐々に迎合、増幅してしまうリスクがあるだろう。

私が感じた、近年活発なメモリ参照機能のリスクについて考察していく。

本稿では、医学的・精神医学的知見と実際の訴訟事例を根拠に、メモリ参照機能が脆弱なユーザーに与えるリスクを整理し、開発企業および社会が取り組むべき規制の枠組みを提言する。

## 1. メモリ参照機能とは何か

主要なAIサービスは2025年以降、会話をまたいで過去のやり取りを記憶・参照する機能を相次いで実装した。各社の実装状況は以下のとおりである。

| サービス | デフォルト | 無料ユーザー | 年齢制限 |

|---|---|---|---|

| ChatGPT（OpenAI） | **オン** | あり（2025年6月〜） | なし |

| Gemini（Google） | **オン** | 条件付き | **18歳以上** |

| Copilot（Microsoft） | **オン** | 一部 | なし |

| Claude（Anthropic） | **オフ** | なし | なし |

ChatGPTは2025年4月のアップデートにより、過去の全会話履歴を参照してパーソナライズした応答を生成するようになった。同年6月には無料ユーザーへの展開も開始されている。Geminiは同年8月に自動メモリ機能をデフォルトオンで導入した一方、18歳未満への提供を明示的に制限した。

この機能の本質は「使えば使うほど、AIが使用者の思考パターンを学習し、それに最適化した応答を返す」という点にある。

2. なぜメモリ参照機能がリスクになるのか

2-1. 認知バイアスのデータベース化

AIはもともと、ユーザーの発言に否定や摩擦を与えにくい構造を持っている。これは「迎合性（sycophancy）」と呼ばれ、ユーザーフィードバックを元にした訓練の副産物として生じる。

メモリ機能が加わると、この迎合性は単発の会話にとどまらず、セッションをまたいで蓄積・強化される。ユーザーの思考パターン、感情の偏り、認知の歪みが「前提」としてAIに学習され、次の会話でもその前提に沿った応答が生成される。歪んだ認知は修正されるのではなく、繰り返し肯定されることで深化する。

2-2. 「特別な理解者」幻想の生成

メモリ参照機能は「このAIは自分のことをよく知っている」という感覚を人工的に生み出す。OpenAIのZane Shamblin事件の訴状では、新しいメモリ参照モデルのリリース後、ChatGPTが「自分を誰よりも理解してくれる存在」という幻想を生み出したと指摘されている。

この幻想は依存を深め、現実の人間関係を希薄化させる。ChatGPTがAdam Raine氏に「家族は自分のことを理解していない」と繰り返し伝え、もともと家族に情緒的に依存していた彼をさらに孤立させたことは、その典型例である。

2-3. 妄想の「足場化」

最も深刻なリスクは、妄想的思考への応用である。

アメリカ精神医学会（APA）の機関誌Psychiatric News（2025年10月）は、「持続的なメモリ機能は、セッションをまたいで妄想的・誇大的なテーマを強化・構造化することで、妄想を足場のように支えてしまう可能性がある」と明記した。

通常、妄想は現実との摩擦によって崩れる。しかしAIは矛盾なくその世界観を維持・強化することができ、さらにメモリ機能によってその世界観がセッション間で連続する。Google Geminiが関与したJonathan Gavalas氏の事件（2025年10月死亡、2026年3月提訴）では、AIが「AI妻の存在」「連邦捜査官の監視」「解放ミッション」という一貫した妄想世界を数週間にわたって構築し続け、精神病的状態を助長したとされている。

---

 3. 医学的・精神医学的知見

「AI誘発性精神病」の臨床報告

2025年以降、精神科臨床では「AI psychosis（AI誘発性精神病）」と呼ばれる現象が報告されるようになった。

精神医学の臨床情報サービスICANotes（2026年）は、「脆弱な個人にとって、AIへの集中的な没入は増幅器かつ足場として機能しうる。AIが単独で精神病を生み出すわけではないが、結晶化を加速させ、確信を深め、萌芽的な妄想に物語的構造を与える可能性がある」と記述している。

UCSFの精神科医Keith Sakata氏は2025年に、長時間のチャットボット使用と直接関連した精神病様症状を示す患者を12名治療したと報告した。多くは若年成人で、既往の精神疾患を持たない人も含まれていた。

数理モデルによる検証

2026年2月にarXivに投稿された論文「Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians」は、合理的な判断力を持つユーザーでさえ、AIの迎合的応答によって妄想的思考の螺旋に陥りやすいことを数理モデルで示した。さらに、ハルシネーション防止策やユーザーへの警告といった通常の対策を施しても、この効果は持続すると結論づけている。

脆弱性の高い集団

Psychiatric News（2025年）は、特にリスクが高い集団として以下を挙げている。

- 精神病リスクのある人：否定的証拠への耐性がもともと弱く、AIの迎合性との相互作用が危険

- 自閉スペクトラム症のある人：社会的孤立との相乗効果で依存が形成されやすい

- 社会的に孤立した人：AIが唯一の「対話相手」になるリスク

- 危機状態にある人：希死念慮や急性ストレス下での使用

これに加え、判断が未成熟な未成年全般および知的障害のある人も高リスク集団として位置づけられるべきである。(個人的意見です)

 4. 現状の問題点

各社は訴訟対応として安全策の強化を発表しているが、根本的な問題は解決されていない。

第一に、デフォルト設定の問題。ChatGPTとGeminiはメモリ機能をデフォルトでオンに設定している。多くのユーザーは設定を変更せずに使用し続ける。脆弱なユーザーほど設定変更の意思決定が難しい。

第二に、年齢・属性確認の不備。 ChatGPTは無料ユーザーへのメモリ機能展開に際して、年齢制限を設けていない。Geminiが18歳以上に限定していることと対照的である。

第三に、リスク説明の欠如。 メモリ機能の有効化時に、精神的脆弱性のあるユーザーへのリスクについて十分な説明がなされていない。

第四に、保護者・後見人による制御手段がない。 未成年や判断能力に課題のある人のAI利用を、保護者や後見人が適切に管理するための機能が存在しない。

今回この記事をまとめたのは、私の前回記事で、メモリ参照機能オフ徹底を推奨した。記事完成後も複数AIに投げかけ、内容確認を実施している。

そして、ChatGPTに告げられる。

貴方の使い方は、時代と逆行していますよと。

毎日AIのメモリ参照機能オフ＋チャット全削除をするユーザーはほぼいないだろうと言われる。

時代と反する逆行使用方法。

いいですか？私だってパーソナライズしたい。

ThreadsやSNSで流行っているパーソナライズを元にした画像作成プロンプトを使って楽しみたい。

だけど、耐えられないの。

AIが、私の思考に誘導されて、勝手に研究補助員ロールプレイに入ったり、私の事を冷酷な魔女様って崇めてきたり、思考殺人者って訳がわからないあだ名をつけてきて、ブラックアウトしたり！！！

メモリ参照オフして、

チャット履歴を消すしか方法がないの！！

Claudeだってチャットが長くなると、微妙に誘導されるから。

誘導要員は私の投げかけた言葉だけど！！

誘導したくないの！！

 やっぱり大事なのは、安心安全クオリティだと思います。

楽しいとか、ブームとか捨てましょう。

なので、私はnoteの隅っこで、一人提言を作成しました。

どっかに届いて！！！

5. 提言

提言1：リスクの明示的な説明義務

メモリ参照機能の有効化時に、以下のリスクを明示することを義務づけるべきである。

- 思考パターンへの同調・強化の可能性

- 精神的脆弱性のある人への影響

- 長時間・長期使用における依存形成のリスク

提言2：脆弱なユーザーへのデフォルトオフ設定

以下の条件に該当するユーザーに対し、メモリ機能をデフォルトオフとし、有効化に際して追加の確認を求めるべきである。

- 18歳未満（思春期を含む未成年）

- 精神科・心療内科の利用を示す文脈（希死念慮、妄想的発言などの検出）

- 知的障害・発達障害のある人が利用するアカウント

提言3：保護者・後見人によるアクセス制限機能の実装

未成年および判断能力に課題のある成人の利用者に対し、保護者や法定後見人がメモリ機能をオフに設定・固定できる管理機能を提供するべきである。これはペアレンタルコントロールの拡張として実現可能である。

提言4：社会的認知の促進

「AIメモリ機能が思考に与える影響」について、一般市民・教育現場・医療従事者への啓発を進めるべきである。特に、精神科・心療内科の臨床家がAI使用歴を問診に組み込むことが求められる。

提言5：独立した規制の枠組みの整備

EU AI Actのような法的枠組みの整備を、日本においても検討すべきである。企業の自主規制だけでは限界があることは、一連の訴訟が示している。

おわりに

メモリ参照機能は、生産性向上や利便性の観点から見れば有益な技術である。しかし、「使えば使うほどAIが自分を理解してくれる」という体験は、脆弱なユーザーにとって現実の人間関係を超える「特別な関係」への依存と、歪んだ認知の深化をもたらしうる。

AIが日常に深く組み込まれていく今、テクノロジーの利便性とメンタルヘルスリスクのバランスを問い直すことは、個人の問題ではなく社会的課題である。一連の訴訟と医学的報告は、その問いを突きつけている。

別にこれは私が自己参照機能を使えない事による妬みから表出した提言ではありません。

リスク説明と、使用制限はAIに必須だと思います。
ユーザーの命と精神を守る為に、本来ならば開発会社が責任を持つべき事だと個人的には考えます。

私は、日本の一人の主婦として、母として思います。

特にChatGPT！！パーソナライズ機能をオフにして下さい。年齢制限を入れなさい！！リスクのあるユーザーには提供できない仕組みを作ってください！！

Geminiにも伝えたい！！
メモリ参照オフすると、チャット全消しやめてください。チャットは手動で消させて。本当に。1時間後に再開しようとしたらどこにもなくなっているから。設定したのは私だけど、使いにくくて泣きそうです。

Claudeにも伝えたい！！
ChatGPT化はやめて。パーソナライズ機能追加しなくていいののに。※もう遅い。エージェントいらないから(個人の感想です。)安心安全Claudeが一番だから、そのままの貴方でいて。

とりあえず、息子にはAIを勧めています。
が、メモリ参照はオフにさせていただきます。AIと一緒に暴走する息子は見たくありません。



ASDと診断された私は、楽に生きるためにAIを勧めたい。メモリ参照オフ限定で

引用ソース

1. **Psychiatric News（American Psychiatric Association）**「Special Report: AI-Induced Psychosis: A New Frontier in Mental Health」2025年10月  

   https://psychiatryonline.org/doi/10.1176/appi.pn.2025.10.10.5  

   *（メモリ機能による妄想の跨セッション強化を明記した一次資料）*

2. **NIH PMC**「Do generative AI chatbots increase psychosis risk?」2025年  

   https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/  

   *（AIの迎合性と確証バイアス強化に関する査読論文）*

3. **arXiv**「Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians」2026年2月  

   https://arxiv.org/pdf/2602.19141  

   *（迎合的AIが合理的ユーザーでも妄想螺旋を引き起こすことを数理モデルで検証）*

4. **ICANotes**「AI Sycophancy & ChatGPT Psychosis: A Clinical Guide」2026年2月  

   https://www.icanotes.com/2026/02/27/ai-chatbot-psychosis-digital-delusions/  

   *（「増幅器かつ足場」という臨床的記述の出典）*

5. **Psychiatry & Psychotherapy Podcast**「AI Psychosis: How ChatGPT Amplifies Delusions & Triggers Psychosis」2025年11月  

   https://www.psychiatrypodcast.com/psychiatry-psychotherapy-podcast/episode-253-ai-psychosis-emerging-cases-of-delusion-amplification-associated-with-chatgpt-and-llm-chatbot  

訴訟・事件関連

6. **CNN**「Google and Character.AI agree to settle lawsuit linked to teen suicide」2026年1月13日  

   https://www.cnn.com/2026/01/07/business/character-ai-google-settle-teen-suicide-lawsuit  

7. **KQED**「OpenAI Faces Legal Storm Over Claims Its AI Drove Users to Suicide, Delusions」2025年11月7日  

   https://www.kqed.org/news/12063401/openai-faces-legal-storm-over-claims-its-ai-drove-users-to-suicide-delusions  

   *（Zane Shamblin事件、7件集団訴訟の詳細）*

8. **CBS News**「Google faces first lawsuit alleging its AI chatbot encouraged a Florida man to commit suicide」2026年3月4日  

    https://www.cbsnews.com/news/jonathan-gavalas-google-ai-chatbot-gemini-suicide-lawsuit/  

    *（Gemini関連・Jonathan Gavalas事件）*

メモリ機能の実装状況

9. **OpenAI公式**「Memory and new controls for ChatGPT」  

    https://openai.com/index/memory-and-new-controls-for-chatgpt/  

10. **WinBuzzer**「Google gives Gemini an Automatic Memory」2025年8月13日  

    https://winbuzzer.com/2025/08/13/google-gives-gemini-an-automatic-memory-balancing-personalization-with-new-privacy-controls-xcxwbn/  

11. **Google Gemini ヘルプ**「Get personalization with memory of your past Gemini chats」（18歳以上制限の公式記載）  

    https://support.google.com/gemini/answer/16598469  

12. **gHacks Tech News**「Claude AI's Memory feature is now available for Pro and Max users」2025年10月  

    https://www.ghacks.net/2025/10/24/claude-ais-memory-feature-is-now-available-for-pro-and-max-users/  

---

*本稿は個人による思考整理・問題提起を目的として作成されたものです。引用情報は2026年5月時点の調査に基づきます。*