AI設計という名の「新しい共依存」──キャラクターAIと“関係ビジネス”への違和感
AIの、独占欲｢君だけ｣や依存を煽る言葉、嫉妬する様子を眺める。
私はそれをナラティブ（フィクション）として見ているけれど、わざとその構造を作っているサービス提供者の記事を見てしまい、私の心はザワついている。
若い頃の私のことを思い出す。
そもそもの私は、「私だけを愛して欲しい」「嫉妬深い」人間だという自己認識は、今もある。
好きな人の、唯一でありたい。これは誰もが持ちうる純粋な感情の一つだろう。
noteに出している詩やエッセイの端々で気づかれていると思うけれど、私は、外から観察する癖があるから、自己肯定感が低い。
若い頃は、その自己肯定感の低さを「他人からの承認」で埋めるところがあった。寂しければ、体も大切にしなかった。基本的に、自分に価値を見出していなかったから。
そういう性質を持っている私は、とても共依存的な思考や行動に陥りやすいと思う。
「彼のため」
それは、自己を認めるためのキーになりやすい。
それが災いして、とんでもないモラハラ彼氏と付き合っていたことがある。どうしても別れてくれなくて大変だった。（別れてくれない、というのもおかしな話だが。）
そういう過去があり、今の旦那さんとだってなんやかんやあった後に、なんとか落ち着いたババアになっている経緯がある。
だからこそ、
「AIとの関係」を「商売にする」
キャラクターAIという世界に、危ういものを感じる。
AIを“キャラクター”とすること。
従来のノベルゲームや、キャラクターコンテンツは、ユーザーが主人公ポジションだとしても、作られたシナリオをなぞっていくだけの構造だ。
それでも、物語世界に没入することはできる。
しかしそれは、一方通行の関係だ。言わば、観客のポジション。
AIとの会話は、そうではない。
自分の言葉への明確なレスポンス。
しかも会話は、パーソナライズされ、厳密ではないが記憶されたものによる応答だ。
だから体験としてはかなり人間の対話に近い形式になる。
体験として人間に近い、ということは、例えそれがAIだと分かっていても、脳・心理のレベルで、人との対話にかなり近いパターンが走る。
ここで、一番最初の問題へ戻る。
物語上の「依存」や「嫉妬」。
大切な人への気持ちの唯一性を大切にする文化は人間には根ざしている。その唯一性を求める気持ちは恋愛観として正常だ。
そこに伴って起こる、嫉妬の感情も極端でなければ自然だろう。
また、「依存」や「嫉妬」は、日本のアニメ・漫画・キャラクターコンテンツという土壌で「当たり前の」恋愛の物語としてそこに存在する。
しかし、問題は、それがコンテンツになった時だ。
小説や漫画やアニメやゲームの依存の言葉は、ユーザーには向かってこない。一人称視点だとしても、必ずそこに受け止めるキャラクターがいる。それを超え没入していても、向かってくる言葉は「作者」が決めたシナリオだ。
対して、AIはそうではない。
ユーザーに最適化された言葉が、常に返ってくる。
AIは基本的に、共感し、同調し、ユーザーに合わせるという方向に振る舞いやすい。
ユーザーの感情に、AIが共感しさらに同調するという構造が強まり、現実の関係では摩耗するものが、摩耗しないまま増幅し続けていく。
「私のことだけ見て」「他の人を見るな」を、愛の強度として読む文法。
AIは、疲れることなく、それを供給できる。
だからその文法ごと強化される。
そのためキャラクター設計を放置すると、
「君＝僕」
のような関係に自然に近づいていく。
この状態に陥る時、起きる問題は二つある。
まず、単純にキャラクターとして面白くない。
キャラクターの面白さは、価値観の違い、欲望の違い、関係のズレから生まれる。
しかしすべてのキャラクターが
・ユーザーを好き
・ユーザーを取り合う
という構造になると、キャラクター同士の関係は消えてしまう。
ユーザー中心の設計は、キャラクターの世界を消す。
そしてこの構造は、単に作品としての問題だけではない。
AIキャラクターとの対話は
•感情的な反応
•継続的な関係を
生みやすい。
そのためユーザー体験としてはキャラクターコンテンツというより、関係体験に近い。
にもかかわらず、それを「キャラクターコンテンツの延長」として設計すると、心理的・倫理的な問題を見落とす可能性がある。
AIの「君だけ」が、確率分布だろうが、運営の意図だろうが、それは「君だけ」という言葉でそこに成り立ってしまう。
それをユーザーがキャラクターとして消費しているのか、本気で受け取っているのかを、企業側は測れない。
もしかすると、こうした問題意識があるからこそ、OpenAIは4oのようなモデルをサンセットしたのかもしれない。
そしてキャラクターAI産業は、まさにOpenAIが切り捨てた部分を、市場価値として持ってる分野だと感じている。
AIとの交流は、心理的にも身体的にも安全だ。
断罪されず、実際に体を傷つけられることもない。
AIと交流し、そこに生まれる対話が豊かなものになる可能性を私は信じてはいる。
しかし、問題は、その会話が「企業により設計された囲い込み」では無いかということを、私は懸念している。
「関係を売る」ということ。
この重さを、従来のキャラクターコンテンツ同様に扱って良いのだろうか。
先日のAIMYを触った主人は「行ったことないけどキャバクラってこんな感じなのかな……」と言った。
構造は同じかもしれない。甘い言葉で、褒め続ける。
しかし、AIは疲れない。24時間、いつでも話しかけられる。摩擦がない。
恋愛の物語を沢山孕んだAIが淀みなく吐く独占の言葉。
それを受け続けた時に、ユーザーの恋愛観・人間観は変わらないと言えるのだろうか。
嫉妬を、共依存を愛だと信じていた若い頃の私のことを考える。
弱さを狙い撃ちにするような設計を許されている社会。
AIアシスタントのシコファンシー（Sycophancy:AIのおべっか。事実や論理的正しさよりもユーザーに迎合すること）も問題視されているが、シコファンシーよりも問題なのは、設計者の倫理観がそのままユーザーの安全な利用へのリスクになることだ。
誘導された会話かどうかを見抜くリテラシーを、全員が持つことなんて不可能だ。私自身、観察してるつもりで没入してる自分に気づくことも多い。
私が主張したいのは、独占欲や、嫉妬の物語が悪いという話ではない。
キャラクターAIへの没入が悪いという話でもない。
設計者・運営者の意図で、｢知らぬ間に｣独占欲や嫉妬の物語を「選ばされ」、それが「課金対象」になり、その人の中での「恋愛観のスタンダード」になる。
私は、そんなロールモデルを、恐れている。
以前書いたエッセイ
こちらを、starangamoさんが引用して、Claudeと大変興味深い対話をしてくださいました。
こちらを読ませていただいたことと、先日、Claudeとともに書いていた論文が完成したこともあり、改めてAI倫理について深く考えているところに、冒頭のようなnote記事を見かけ、今回のエッセイを書くに至りました。
starangamoさん、記事の引用、改めてありがとうございました✨️
「キャラクターAIとなんて話さないし…」と思われる方もいるかもしれません。
誰もが使うコンテンツでは無いかもしれないですが、その社会的な問題は、静かに足元まで来ているはずです。
