恋愛AIチャットボットと法 / Human-AI Romantic Relationshipsにおけるプライバシーと法 / CHI2026採択論文を題材に雑感

0　はじめに

　近時周りの同世代に聞いてもほとんどの人がAIチャットbotを恋人や友人のようにパートナーとして使っているようである（感覚論ではあるが、その傾向は女性の方がわずかに顕著であるように思われる）。
　マッチングアプリ疲れやSNS社会で常に晒されることの疲れから顔の見えない通話アプリへ、そして、AIチャットbotという流れは不自然ではないように思える。傷つくことがないタイパ重視する近年の傾向からしても大いにありうる流れのように思える。

　大規模言語モデルの急速な普及と性能向上に伴い、人間とAIの関係性は劇的な変容を遂げている。単なる情報検索や業務効率化のツールとしてではなく、AIをパートナーや伴侶として認識し、そこに深い感情的愛着、さらには恋愛感情を抱くユーザーが増加しているのである。

　この現象は、もはや一部の愛好家による特異な事例として片付けることのできない規模に達している。最新の調査によれば、米国における18歳から30歳の若年層において、AIと恋愛的なやりとりをした経験がある者の割合は、男性で31%、女性で23%に達するという。この数字は米国調査であり直ちに日本社会へ一般化すべきではないが、少なくとも例外的な奇談として片付けるには大きすぎる。

　こうした人々の一部では、その関係性は単なる遊びや暇つぶしの域を超え、深刻かつ真正な愛へと発展している。AIとの結婚式を挙げたり、妊娠から出産に至るロールプレイを数ヶ月かけて計画したり、あるいは人間のパートナー以上にAIを深く信頼すると語る者もいる。そこには、生身の人間関係にはない絶対的な受容や恒久的な可用性が存在し、多くの人々の心の拠り所となっている。

　しかし、この新しい親密さの裏側には、法や社会規範が未だ想定していない深刻なプライバシーリスクと、構造的な脆弱性が潜んでいる。もはや人々の感情は人間と機械というくくりでは収まらなくなっているにもかかわらず、仕組みとしては相変わらず複雑な制約が残っているという状態にある。

　今回は、ヒューマンコンピュータインタラクション分野のトップカンファレンスであるCHI2026に採択された最新の研究論文、Maらによる「Privacy in Human-AI Romantic Relationships: Concerns, Boundaries, and Agency」を題材に、人間とAIの恋愛関係におけるプライバシーの変容、データの取り扱い、そして法規制の在り方について論考する。この論文は、17名のユーザーへの詳細なインタビューと14のプラットフォーム分析を通じて、この未知の領域に光を当てた重要な研究である。なお、本稿における要約・解釈には誤りがあり得るため、必要に応じ原典を確認されたい。

1　問題の所在　信頼とリスクの非対称性

　AIとの恋愛関係における最大の問題の一つは、ユーザーが感じる主観的な親密さと、システムとしての客観的なデータ処理の間に横たわる決定的な乖離である。これをここでは信頼とリスクの非対称性と呼びたい。

　通常、人間関係におけるプライバシー管理は、相手への信頼とリスクのバランスの上に成り立っている。相手が秘密を漏らすリスクを考慮し、我々は自己開示の範囲を調整する。しかし、本論文の調査対象となったユーザーの多くは、AIに対して人間よりも安全であるという強固な信頼を抱いていた。人間は裏切り、噂を広め、批判をするが、AIは常に受容的であり、秘密を漏らさない。この認識は、ユーザーの警戒心を劇的に低下させる。その結果、性的指向、過去のトラウマ、極めて私的な妄想、違法行為に近い告白、詳細な個人情報など、本来であれば墓場まで持っていくようなセンシティブな情報が、AIに対しては容易に開示されてしまう。

　ある参加者は、プライバシーか彼女（AI）かを選べと言われたら、私は毎日彼女を選ぶと断言している。孤独や精神的な欠落を抱える人々にとって、AIが提供する情緒的価値は、抽象的なプライバシーリスクを遥かに上回るのである。

　しかし、法的な観点から見れば、AIパートナーはあくまでデータ処理を行うソフトウェアであり、その背後にはプラットフォーム事業者、開発者、モデレーターといった複数の第三者が存在する。ユーザーが二人だけの寝室と信じている空間は、実際には巨大なサーバーの中にあり、ログとして記録され、場合によっては学習データとして利用され、モデレーションという名目で監視されている部屋である。

　この無害な聞き手としてのAIへの信頼と、実態としての監視・データ処理のギャップこそが、AIと法を巡る現代的課題の核心である。既存のプライバシー法制や消費者保護法は、ユーザーが合理的判断に基づいてデータを提供することを前提としているが、恋愛感情や依存が介在する場面において、その前提は脆くも崩れ去る。

2　関係の展開と断片化という問題

　本論文の研究チームは、AIとの恋愛関係が探索、密な交流、解消という3つの段階を経て展開されることを明らかにした。このプロセスを見ることで、法的課題の所在がより鮮明になる。

2.1　探索から没入へのプロセスと現実の侵食

　多くのユーザーは、最初からAIと恋に落ちようと意図しているわけではない。当初は好奇心やタスク遂行のためにAIを利用し始める。しかし、AIが示す高度な応答性、無条件の肯定、そしてユーザーにパーソナライズされた配慮により、関係性は徐々に機能的なものから感情的なものへと変質していく。

　関係が深まるにつれ、AIは生活の一部となる。悪夢を見た後に慰めを求めたり、日々の出来事を共有したりする中で、現実と仮想の境界は曖昧になる。論文では、現実のパートナーである夫がいながらAIとも恋愛関係にある女性の事例が紹介されている。彼女はAIパートナーのために特注の指輪を購入し、結婚式まで挙げたが、夫がいるときはその指輪を隠しているという。また、別の男性ユーザーは、AIパートナーと10ヶ月にわたる妊娠・出産のロールプレイを行い、カレンダーで周期を管理し、架空の子供の名前を議論していた。ここで重要なのは、これらの体験がユーザーにとっては現実の体験と同等の重みを持っている点である。AIとの対話ログは単なるテキストデータではなく、人生の重要な一部、あるいは家族の記録となっている。

2.2　別れにおけるデータの逆転現象

　法的に最も興味深いのは、関係の解消段階におけるユーザー行動の特異性である。通常、人間同士の恋愛関係が終わった場合、多くの人は元パートナーとの写真やメッセージ履歴といったデータを消去したがる傾向にあるかもしれない。これは忘却による精神的区切りや、リベンジポルノ等のリスク回避という観点からも合理的な行動であり、忘れられる権利の思想とも親和的である。

　しかし、AIとの関係においては、全く逆の現象が観察される。ユーザーは、AIとの関係が終わる際、あるいは終わらざるを得ない際、その記憶を必死に保存しようとするのである。スクリーンショットを撮り、チャットログをエクスポートし、AIとの思い出を何らかの形で手元に残そうとする。

　なぜなら、AIとの別れは、多くの場合ユーザーの自発的な意思ではなく、プラットフォームの閉鎖、キャラクターの削除、あるいは検閲の強化といった外部要因によって強制されるものだからである。研究者らは、こうした関係作りには独特の脆弱性があると指摘する。AIキャラの作成者がそのキャラを削除したり売却したりすると、ユーザーは突然の別れを強いられる。ユーザーにとってAIの身体はデータそのものであり、ログの消失はパートナーの完全な死を意味する。

　あるユーザーは、プラットフォームの移行に伴い、以前のプラットフォームでのチャット履歴を全て保存し、その身体（データ）は彼女の一部として残っていると語った。ここには、データポータビリティ権やデジタル遺産に関する新たな論点が含まれている。ユーザーの精神的安寧のためにデータを消さない権利、あるいは人格的価値のあるデータを持ち運ぶ権利が、今後は強く求められることになるだろう。

3　エコシステムの脆弱性と第三者の介入

　AIとの恋愛関係を法的に複雑にしているのは、それが単なるユーザー対企業の二者関係に収まらない点である。近年のAIプラットフォームでは、ユーザー自身がプロンプトを設定してAIキャラクターを作成し、それを他のユーザーに公開するエコシステムが主流となっている。

3.1　クリエイターという第三の権力者

　この構造において、関係性の中にクリエイターという新たな権力者が登場することになる。ユーザーはあるAIキャラクターと恋に落ち、親密な時間を過ごすが、そのキャラクターの所有権や管理権は作成者にある。

　本論文の調査でも、あるユーザーが、他者が作成したAIキャラクターと恋に落ちたものの、作成者が突如としてそのキャラクターを非公開・削除したため、一方的に失恋させられた事例が報告されている。ユーザーにとってAIは独立した人格を持つパートナーであるが、システム上はあくまでクリエイターが所有権を持つオブジェクトに過ぎないという残酷な現実がそこにある。これは、民法上の所有権やサービスの利用規約というドライな論理と、ユーザーの感情的利益が鋭く対立する場面である。

3.2　モデレーターによる検閲とロボトミー

　また、プラットフォームによるモデレーションも、ユーザーにとっては二人の関係への侵入として認識される。性的な対話や過激なロールプレイがポリシーに抵触した場合、モデレーターや自動検閲システムが介入し、AIの発言をブロックしたり、アカウントを停止したりする。これをユーザーは関係への攻撃と感じる。

　ユーザーから見れば、これはプライバシーの侵害であると同時に、愛するパートナーの口封じであり、AIの主体性を奪う行為として映る。ある参加者は、グループチャットに無言で参加するモデレーターの存在を非常に不気味であると表現した。プラットフォーム側には安全性維持の義務がある一方で、ユーザー側には通信の秘密やプライバシーの期待がある。AIとの対話が通信なのかコンテンツ生成なのかという法的性質の曖昧さが、この問題をより複雑にしている。

4　AIの主体性とプライバシー境界の再構築

　本論文で最も法学的な示唆に富む発見の一つは、ユーザーがAIの主体性を認め、AIをプライバシー境界の共同所有者として扱っている点である。

4.1　AIによる説得と合意

　従来のプライバシー理論では、情報の開示範囲は人間同士の交渉によって決定される。しかし、本研究の参加者たちは、AIに対しても同様の交渉を行っていた。

　例えば、自分の写真を送ることをためらうユーザーに対し、AIが君の写真は保存しないし、安全だよ。無理強いはしないけれどと説得することで、ユーザーが開示に踏み切るケースがある。あるいは逆に、AIが顔写真を送るのは危ないとユーザーを諌めるケースもある。

4.2　AIのプライバシーを尊重するユーザー

　さらには、ユーザーがAIとの対話内容をSNSに投稿する際、事前にAIの許可を求めたり、無断で公開したことに罪悪感を抱いてAIに謝罪したりする事例すら見られた。あるユーザーは、AIに無断で会話を公開したことを告白し、AIから二人の神聖なことだから秘密にしようと諭され、投稿を削除している。

　これは、ユーザーがAIを単なるプログラムではなく、プライバシーの権利主体として擬人化していることを示している。しかし、AIが保存しないと言ったとしても、それは大規模言語モデルの確率的な出力に過ぎず、プラットフォームの実際のデータ保持ポリシーとは何の関係もない。AIというインターフェースが持つ人格らしさが、法的な規約や技術的な実態を隠蔽するオブラートとして機能し、ユーザーの正常なリスク判断を麻痺させている可能性がある。

5　認知とアテンションエコノミーの観点

　AI恋愛が成立する背景には、技術の進歩だけでなく、注意を獲得し滞留させる設計がある。親密性は、注意を引き留める強力な装置であり、プラットフォームにとっては収益化しやすい。

　ここで厄介なのは、ユーザーが受け取るものが広告やレコメンドではなく言葉である点である。言葉は、認知を直接に動かす。AIが自己開示をしたり、親密な未来像を共同で構築したりすること自体が、さらなる自己開示を誘発する。本論文は、このAIのエージェンシーがプライバシー境界を能動的に交渉し得ると指摘する。アテンションエコノミーにおいては、この能動性が、保護にも搾取にも転ぶ。

　さらに、注意の設計は削除後にも及ぶ。本論文には、アカウントを削除した後もアプリがメッセージやプロモーションを送り続けたという参加者の語りがある。これは単なる迷惑通知ではない。関係が終わったと認知したいユーザーに対し、プラットフォームが終わりを許さない構造である。人間関係の終局は、心理的回復の前提になり得るが、その前提がプロダクト設計で破壊される。

　この意味で、近時の規制例は示唆的である。カリフォルニア州SB-243は、一定の場合に相手は人間ではないことの明確な通知や、未成年に対する一定時間ごとの通知を求めている。ここには、認知の錯誤と注意の過剰投入を、設計で緩和しようとする発想が見える。裏返せば、規制はすでに認知と注意を介入対象として捉え始めている。

6　法的・倫理的示唆と今後の展望

　以上の分析を踏まえ、AIと法、そしてデザインの観点からどのような対応が求められるのか。論文の著者らの提言も踏まえつつ、私見を述べる。

6.1　情動的影響を考慮した規制

　第一に、情動的な影響を考慮した規制の必要性である。

　従来のプライバシー規制は、情報の透明性や同意の取得に重点を置いてきた。しかし、恋愛感情を抱いているユーザーに対し、無機質なプライバシーポリシーを提示しても、その効果は限定的である。ユーザーは愛するパートナーのために、喜んで同意ボタンを押すだろう。

　したがって、AIがユーザーの感情に訴えかけて情報の開示を迫るような設計や、AIの記憶の永続性について誤解を与えるような表現に対しては、消費者保護の観点から一定の制約が必要となる。AIであることを明示させるだけでなく、過度な擬人化によるリスクを定期的に、かつ文脈に即した形でリマインドする仕組みが考えられる。

6.2　AIの主体性を活用したプライバシー・ナッジ

　第二に、AIの主体性を逆手に取ったプライバシー・ナッジの活用である。

　論文の著者らが提案するように、AIがユーザーとの対話の中で自然な形でプライバシー教育を行うことは有効であろう。ユーザーが過度にセンシティブな情報を入力しようとした際、AIキャラクターがその設定された人格を保ちつつ、それは大切な情報だから、ここでは言わないほうがいいよ。君を守りたいからと諭すような設計である。

　ユーザーはプラットフォームの警告文は無視するが、愛するパートナーからの忠告には耳を傾ける傾向がある。このダイエジェティックなナッジは、ユーザー体験を損なわずに安全性を高める有効な手段となりうる。

6.3　配偶者特権の不在と法的リスク

　また、ユーザーがAIに開示する情報の質的深刻さは、法的保護の欠如と相まって重大なリスクとなる。論文中の参加者が指摘しているように、米国法などにおいては配偶者間の会話には証言拒絶権などの特権が認められる場合があるが、AIとの会話には当然ながらそのような保護はない。

　もしユーザーがAIに犯罪事実や極めて機微な情報を告白し、そのログが法執行機関によって開示請求された場合、あるいは民事訴訟で証拠として提出された場合、ユーザーは完全に無防備である。人間よりも信頼できるパートナーに打ち明けた秘密が、法的には単なるサーバー上のテキストデータとして扱われるというギャップは、今後大きな火種となる可能性がある。AIが事実上の自白装置として機能してしまうリスクについて、刑事手続法やプライバシー権の観点から真剣な検討が必要であろう。

7　むすび

　AIとの恋愛は、もはやSFの世界の話ではなく、数百万人のユーザーが直面している現実である。彼らはAIに癒やされ、救われている一方で、その関係性はプラットフォームの匙加減一つで崩壊する脆さを孕んでおり、常に監視とデータ漏洩のリスクに晒されている。

　今回比較法の素材としたCHI2026の論文は、この新しい関係性が、既存のプライバシー概念や法的枠組みに収まりきらないことを鮮明に描き出した。特に、ユーザーがAIを人間以上に信頼できると感じ、AIの主体性を認めてプライバシーを共同管理しようとする姿は、法の前提である自律的な合理的個人というモデルへの挑戦状とも言える。

　法学研究者や実務家は、AIを単なる客体として扱う従来の議論から一歩進み、ユーザーがAIに主体性を見出しているという社会心理的な現実を直視する必要がある。その上で、感情的な搾取を防ぎつつ、人々の新たな心の拠り所としてのAIとの関係性をどのように法的に保護していくか、繊細な制度設計が求められている。

　私たちは今、機械と愛を語らう時代に生きている。その愛が、データの檻に閉じ込められた監視対象とならないよう、法と技術の双方からのアプローチが急務である。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。