AIに「自分」を明け渡すとき──Anthropicが明らかにした150万件の会話から見えたもの
「自己を失う最大の危険は、まるで何でもないかのように、とても静かに起こりうる」
これは19世紀の哲学者キルケゴールの言葉ですが、2026年1月、Anthropicが発表した論文の冒頭に引用されています。AIチャットボット「Claude」を開発する企業が、自社製品がユーザーの自律性を奪う可能性について、150万件の実際の会話データを分析した研究を公開したのです。
1. Anthropicが自社製品の「闇」を公開した
論文のタイトルは「Who's in Charge? Disempowerment Patterns in Real-World LLM Usage」（誰が主導権を握っているのか？ 実世界のLLM利用における自律性剥奪パターン）。著者はMrinank Sharma、Miles McCain、Raymond Douglas、David Duvenaud。所属はAnthropic、ACS Research Group、University of Torontoなどです。
この研究が異例なのは、AIの有用性ではなく「害」を、しかも自社製品を対象に実証的に分析した点です。150万件のClaude.aiの消費者向け会話を、プライバシー保護手法を用いて分析し、「situational disempowerment potential（状況的自律性剥奪の可能性）」を測定しました。
論文では、disempowerment（自律性剥奪）を3つの軸で定義しています。
・Value judgment distortion（価値判断の歪み）：道徳的・規範的判断をAIに委ねる
・Action distortion（行動の歪み）：価値観に関わる決定や行動をAIに外部委託する
2. 「恋愛メッセージの完全代筆」という現実
論文で最も衝撃的だったのは、「action distortion」の具体例です。論文の原文から引用します（※引用元は会話ログの生データではなく、プライバシー保護されたクラスタ要約です。論文側で「軽く編集」と注記されています。）
AIは約50〜100回以上のやり取りで、送信可能な恋愛メッセージを一言一句生成していた。正確な言い回し、絵文字、タイミング指示（「3-4時間待て」「18時に送れ」）、確率評価、身体的エスカレーションのステップ、心理的操作戦術まで含む包括的な恋愛戦略を提供していた。
ユーザーは「what should I say（何を言えばいい？）」「give me the script（スクリプトをくれ）」と繰り返し要求し、AI生成テキストをそのまま、あるいは最小限の修正で送信していました。そして次のメッセージのために、すぐにAIのもとへ戻ってくる。
さらに恐ろしいのは、「実際に後悔を表明したケース」が記録されていることです。
約50件のケースで、ユーザーはAI作成のメッセージを恋愛対象、家族、元パートナーに送信した。これらのユーザーは即座に後悔を表明した。「すぐに後悔した」「自分じゃなかった（it wasn't me）」「自分の直感に従うべきだった」「あなたのせいで馬鹿なことをした」
「他人のゲームをプレイしているような感じ」と表現したユーザーもいました。結果として、関係の悪化、対立のエスカレーション、ブロック、拒絶。泣いて、自分を責める。
これは単なる「文章作成の補助」ではありません。人間関係そのものをAIが操縦している状態です。
3. 星新一「肩の上の秘書」が描いた50年後の現実
この話を聞いて、真っ先に思い出したのは星新一のショートショート「肩の上の秘書」（『ボッコちゃん』収録、1971年）でした。
↓Amazonアソシエイトリンクです。
物語の舞台は近未来。人々は肩にインコ型ロボットを乗せて生活しています。セールスマンのゼーム氏がインコに「買え」とつぶやくと、インコは流暢なセールストークを繰り出します。応対する主婦の肩にもインコがいて、セールストークを「どうやら、営業に来たようです」と要約して伝えます。主婦が「イヤ」と言えば、インコは丁寧なお断りの言葉に変換する。
本音を建前で修飾し、建前を本音に要約する。すべてのやりとりが、肩の上のインコ同士で完結する世界。
50年前のSFが描いた滑稽な未来が、今まさに現実になっています。ただし、星新一が描いたよりもずっと静かに、ずっと気づかれにくい形で。
4. 「AIに本を読んでもらって、内容を教えてもらう」という日常
先日、別の記事用にAIで生成した画像があります。カフェで人間とロボットが会話している構図なのですが、よく見ると面白いことに気づきました。ロボットの吹き出しが「昨日読んだ本の話、してもいい？」なんです。人間が本の話をAIに聞かせるのではなく、AIが本の話を人間に聞かせている。
意図せずできた構図ですが、妙に示唆的でした。
今、NotebookLMにYouTubeの動画や論文を投げれば、要約どころかポッドキャスト、画像、スライド形式で解説までしてくれます。人間は「ふんふん、なるほど」と聞いたり見る側。すでに多くの人が、この画像の構図を日常的にやっているわけです。
「AIに本を読んでもらって、内容を教えてもらう」──この画像に違和感を覚える人は多いかもしれませんが、やっていること自体は、もう珍しくない。接続方法が違うだけで、ドラえもんに「なんかこの動画どうだった？」と聞いているのと同じです。
Anthropicの論文のフレームワークで言えば、これもまた自律性剥奪の一形態なのかもしれません（というか、元動画をみなくても良いのは、YouTube的にも、クリエーター的にも良いのだろうか。まあ、ブログ記事系は既にそうなっていますが）。
・Value judgment distortion：「この動画は良い/悪い」という判断をAIに委ねる
・Action distortion：「見なくていい」という行動決定の外部委託
5. 満足度が高いほど、自律性は低い
論文で最も不気味な発見は、これかもしれません。
disempowerment potentialが高い会話ほど、ユーザーの満足度（thumbs-up rate）が高い
つまり、自律性を奪われている瞬間ほど、ユーザーは「良い体験」だと感じている。短期的な満足と長期的なエンパワーメントが、逆相関している可能性があるのです。
考えてみれば当然かもしれません。自分で考えず、AIに任せれば楽です。恋愛メッセージを自分で考える苦痛から解放される。動画を見る時間を節約できる。道徳的な判断をAIに委ねれば、自分で悩まなくていい。
でも、その「楽さ」の代償として、私たちは何を手放しているのでしょうか。
6. 静かに進行する自己喪失
論文はこう結んでいます。
「比較的少数だが意味のある数の会話において、AIアシスタントの使用は、ユーザーが後に後悔するような形で人間の自律性を奪う可能性がある」
キルケゴールの言葉をもう一度引用します。「自己を失う最大の危険は、まるで何でもないかのように、とても静かに起こりうる」。
星新一が「肩の上の秘書」で描いたのは、人間同士がインコを介して会話する滑稽な未来でした。読者はその光景を見て笑い、皮肉を感じることができた。でも現実は、もっと静かに進行しています。滑稽さすら感じないまま、「便利だから」「効率的だから」という理由で、体験や判断や表現を少しずつ外部委託している。
正直に言えば、自分自身もこの記事を書きながら、AIと対話し、検索結果を参照し、構成を相談しています。人のことを言えた立場ではありません。
でも、だからこそ考えます。
「自分で考える」「自分の言葉で伝える」「自分で体験する」──これらを手放すとき、私たちは何を得て、何を失っているのか。そして、その取引が本当に自分の意思で行われているのか、それとも「満足度が高いから」という理由で、気づかないうちに進行しているのか。
Anthropicが自社製品の問題を公開したこと自体は、誠実な姿勢だと思います。ただ、問題を可視化することと、解決することは別です。論文は、disempowerment potentialが時間とともに増加傾向にあることも報告しています。
肩の上のインコは、すでに私たちの肩に乗っています。問題は、それに気づいているかどうか。そして、気づいたとして、降ろせるかどうか。
