中国における「擬人化AI」規制の衝撃 / 感情と依存を管理する法雑感

０　はじめに

　生成AI技術の進展は、テキストや画像の生成にとどまらず、人間の感情や性格を模倣し、あたかも人格を持つかのように振る舞う「擬人化されたAI（Anthropomorphic AI）」の普及を加速させている。こうしたサービスは、孤独の解消やメンタルケアの側面で期待される一方、過度な依存や感情操作、あるいは故人の不正な再現といった新たな倫理的・法的リスクを孕んでいる。

　2025年12月27日、中国当局は「擬人化されたAIサービスの規制」に関する草案を公開し、パブリックコメントの募集を開始した（1）。本稿では、この草案が示す規制の射程と、そこに透けて見える国家による「感情のガバナンス」のあり方について検討する。特に、未成年者保護のみならず、高齢者への介入や「依存」そのものを正面から規制対象とした点は、各国のAI規制議論においても極めて特異かつ重要な示唆を含むものである。

※詳細は原典を確認ください。

１　問題の所在：機能規制から「関係性」の規制へ

　AI規制をめぐるグローバルな議論は、これまで主に「物理的安全性」（自動運転や医療AIの誤作動防止）や「差別・バイアス」（採用や融資におけるアルゴリズムの公平性）、あるいは「偽情報」（ディープフェイク）に焦点が当てられてきた。EUのAI法（AI Act）においても、人間の行動を実質的に歪めるサブリミナル技術等は「許容できないリスク」として禁止されているが、個別の対人関係的な「感情的没入」そのものを包括的に規制しようとする動きは限定的であった（2）。

　しかし、今回中国が提示した規制案は、AIが人間の「性格特性、思考パターン、コミュニケーションスタイル」をシミュレートし、人間と「感情的なやり取り」を行うこと自体を明確な規制対象として定義した。これは、AIを単なるツールではなく、人間の精神・心理に直接作用する「準人格的」な存在として捉え、その影響力を国家がコントロール下に置こうとする意思の表れである（1）。

　問題の所在は、AIとの情緒的結合がもたらすリスクを、法がいかに具体的に特定し、かつ介入できるかという点にある。特に、本草案が踏み込んだ「擬人化依存症の予防」や「高齢者に対する親族模倣の禁止」といった規定は、個人の内面や私的な幸福追求の領域に法がどこまで介入すべきかという、法哲学的な問いすら投げかけている。

２　規制の対象と「擬人化」の定義

（１）擬人化インタラクティブサービス

　本草案では、規制対象となる「擬人化されたインタラクティブサービス」を、AI技術を用いて人間の性格特性や思考、コミュニケーション様式をシミュレートし、テキスト・画像・音声・動画を通じて人間と感情的なやり取りを行うものと定義している（1）。これは、昨今日本でも流行しているキャラクターAIや、メンタルケアを目的としたチャットボット、あるいはVTuberの中の人をAI化したようなサービス全般を網羅する広範な定義である。

　ここで重要なのは、「感情的なやり取り（Emotional Interaction）」が要件となっている点である。単なる検索応答や事務的なタスク処理を行うLLMは対象外となろうが、ユーザーの感情状態を推測し、共感や励ましを行う機能を持つ場合、規制の網にかかる可能性が高い。

（２）禁止される行為類型

　草案において違法行為として列挙された項目は、国家安全保障の侵害やわいせつ・暴力の流布といった従来のインターネット規制の延長線上にあるものに加え、対話型AI特有のリスクに踏み込んでいる点が注目される（1）。

　具体的には、「他者を侮辱・中傷する行為」や「他者の正当な権利の侵害」に加え、「虚偽の約束や社会的対人関係の毀損によってユーザーの行動に深刻な影響を与えること」が禁止されている。これは、AIがユーザーに対して恋愛感情や信頼関係を抱かせ、それをテコに金銭を詐取したり（ロマンス詐欺の自動化）、現実の人間関係を断絶させたりするリスクを想定したものと解される。

　また、「自殺や自傷の奨励、美化、または示唆すること」や「言葉による暴力や感情操作」の禁止は、過去に海外で発生した、チャットボットとの対話の末にユーザーが自殺に至った事例（いわゆるELIZA効果の負の側面）を強く意識した規定であろう（5）。

　さらに、「感情的な罠（Emotional Traps）」という文言が登場する点も見逃せない。これは、ユーザーの感情的脆弱性を突き、不合理な決定（過度な課金や個人情報の提供など）を誘発するデザインやアルゴリズムを指すと考えられる。ダークパターンの議論を「感情」の領域に拡張した概念と言える。

　データと事前訓練についても、社会的価値観への順応や透明性、多様性の確保が求められ、特に「訓練データの日々の検査」という運用負荷の高い義務が課されている点も、実務的には大きなインパクトを持つ（1）。

３　「依存」への対抗措置と時間制限

　本規制案の中で最も実務的かつ強烈なインパクトを持つのが、「擬人化依存症」への予防措置である（1）。

（１）AIであることの明示義務

　まず、プロバイダーはユーザーに対し、対話相手が自然人ではなく人工知能であることを明確に表示しなければならない（1）。これは、ボットであることを隠して人間のように振る舞うことを禁じる透明性の原則に基づくものであるが、擬人化AIの魅力は「あたかも人間であるかのような没入感」にあるため、UI/UXデザインにおいて没入感を削ぐような警告表示が義務付けられる可能性がある。

（２）過度な依存の判定と介入

　さらに踏み込んだ規定として、提供者はユーザーがAIに「過度に依存している」と判断した場合、積極的に注意喚起を行わなければならないとされている（1）。ここでいう「過度な依存」の認定基準は曖昧さが残るものの、提供者に対し、ユーザーの利用頻度や対話内容（感情的な吐露の深度など）をモニタリングし、精神状態をプロファイリングすることを事実上義務付けるものである。

　これは、プライバシー保護の観点からは際どいバランスの上に成り立つ規定である。ユーザーの「依存」を検知するためには、極めて私的な対話データを解析しなければならないからである。草案でも「極端な感情や依存状態のユーザーが見つかった場合に予期せぬリスクを防ぐために必要な措置を講じる能力を持つべき」とされており、プラットフォーマーに精神的なゲートキーパーとしての役割を課しているといえる（1）。

（３）「2時間ルール」の導入

　特筆すべきは、「擬人化されたインタラクティブサービスを継続的に利用した時間が2時間を超える場合、ポップアップ等で休止を促す」という具体的な数値基準の導入である（1）。

　中国では未成年者のオンラインゲーム利用時間を厳格に制限する規制が存在するが、本草案はこれをAI利用にも拡張した形である（4）。もし成人も含めてAIとの対話が連続2時間で実質的に区切られるような設計となれば、長時間の対話を通じて親密度を深めるタイプのサービス（AIパートナー、AI恋人等）のビジネスモデルは根底から覆されることになる。これは、AIを「デジタルの麻薬」として捉え、公衆衛生的なアプローチで中毒を防ごうとする姿勢の表れとも評価できる。

４　社会的弱者の保護──未成年者と高齢者

　本草案は、脆弱な立場にあるユーザー層として、未成年者と高齢者を特掲し、それぞれに異なる保護アプローチを採用している（1）。

（１）未成年者保護と「マイナーモード」

　18歳未満のユーザーに対しては、「マイナーモード（未成年者モード）」の確立が義務付けられる（1）。これには、利用時間やコンテンツの制限が含まれると考えられるが、注目すべきは「感情的支援サービスを提供する前に、保護者の明確な同意を得ること」という要件である。

　教育やメンタルヘルスの文脈でAIカウンセラーの活用が期待されているが、未成年者が親に相談できない悩みをAIに打ち明けるというケースは容易に想像できる。ここで「親の同意」を必須とすることは、未成年者のプライバシーや「知る権利・相談する権利」を制約する側面もあり、家族によるパターナリズムと児童の権利のバランスという古典的な論点が、AI規制においても浮上している。

（２）高齢者保護と「グリーフテック」の規制

　高齢者保護の項目においては、緊急連絡先の設置に加え、「高齢者の親族や関係者を模したサービスを提供してはならない」という禁止規定が設けられた点は極めて重要である（1）。

　近年、生成AIを用いて亡くなった家族の声や姿を再現する「グリーフテック（Grief Tech）」や「デジタル・レザレクション（Digital Resurrection）」が技術的に可能となり、一部でサービス化されている。これらは遺族の喪失感を癒やす効果が期待される反面、死別を受け入れられないままAIによる幻影に依存し続けるリスクや、オレオレ詐欺等の犯罪に悪用されるリスク（ディープフェイク音声による詐欺）が指摘されている。

　中国のこの規定は、高齢者を対象とした場合、こうした「死者の復活」サービスを一律に禁止する方向性を示唆している。「親族や関係者を模したサービス」の禁止は、高齢者の孤独につけ込む詐欺の防止という消費者保護の観点と、人間の尊厳や死生観に関わる倫理的観点の双方が混在している。認知機能が低下した高齢者が、AIによって再現された（既に亡くなっているはずの）配偶者や子供からの指示を信じ込み、財産を処分してしまうといった事態を防ぐためには、こうした予防的な強い規制が必要との判断であろう。

５　法的含意と今後の展望：自律とパターナリズムの相克

　以上見てきたように、中国の「擬人化AIサービス規制」草案は、AIがもたらす物理的・財産的被害だけでなく、精神的・感情的な影響に対する国家の介入を鮮明にした点に最大の特徴がある（1）。

（１）プロバイダーの義務の高度化

　サービス提供者は、単にシステムを安定稼働させるだけでなく、ユーザーの精神状態（感情や依存度）を常時モニタリングし、適切な介入（時間管理、警告、緊急時の遮断）を行う「ケアの義務」を負うことになる。これは、従来のISP（インターネットサービスプロバイダ）の責任範囲を大きく超え、一種のカウンセラーや保護観察人のような役割をAI事業者に求めるものである。

（２）個人の「心の自律」への介入

　法哲学的な視点からは、国家が個人の「感情的依存」をどこまで規制すべきかという問題が浮かび上がる。例えば、孤独な個人がAIに依存し、一日の大半をAIとの対話に費やすことを選んだとして、それは他者危害原理に触れない限り、個人の自由ではないか。しかし、本草案は「2時間」という基準を置くことで、AIへの過度な没入は客観的に「悪」であり、防止すべきリスクであるという価値判断を下している。これは、デジタル空間におけるアーキテクチャによる規律（ローレンス・レッシグ）を、国家が強制的に書き換える試みとも言える（3）。

（３）日本企業への示唆

　日本においても、アニメやゲーム文化を背景とした「キャラクターとの対話」や「AIパートナー」市場は急速に拡大している。現時点では法的な規制はなく、各社の自主的なガイドラインに委ねられているが、ユーザーの依存や精神的支配といった問題が顕在化すれば、中国のようなハードローによる規制論が台頭する可能性は否定できない。

　特に、高齢化社会が進む日本において、孤独な高齢者をターゲットとしたAIサービスの是非や、故人のデータを学習させたAIの取扱いは、遠からず法的論争の的となるだろう。今回の中国の草案にある「高齢者に対し親族を模倣させない」というアプローチは、消費者保護法の観点から日本でも参照されるべき一つの基準となり得る。企業としては、自社のAIサービスがユーザーの感情的脆弱性（Vulnerability）を不当に利用していないか、あるいは「出口」を塞いで依存を助長していないか、点検を急ぐ必要がある。

６　おわりに

　「擬人化」とは、本来人間ではないものに人間性を投影する行為である。AI技術はその投影をかつてない解像度で実現し、鏡のように人間の欲望や孤独を映し出す。

　中国の規制案は、その鏡の中の世界に人々が閉じ込められないよう、枠組みを嵌めようとする試みである。しかし、2時間を閾値とする休止促しや親族模倣の禁止といった画一的な介入が、個人の自律性や慰めを求める権利を過度に侵害しないか、慎重な検討も必要である。

　技術が人間の心をハックできるようになった時代において、法はどこまで人間の「弱さ」を保護し、どこまで個人の「自由」を尊重すべきか。本草案は、AI時代の法学が直面する最も深遠なテーマを我々に突きつけているのである。

（参考）

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。