AIから人間を守るための社会教説　教皇レオ14世の回勅『マニフィカ・フマニタス』を読む （第２章）

第２章｜「お気持ち、わかります」は本物か　
AIの共感という名の鏡

夜中に、ふと心細くなって、AIに話しかけたことはありませんか。

すると対話型のAI（チャットボット）は、責めることも、急かすこともなく、やさしい言葉を返してくれます。

その言葉に、思いがけず救われることがあります。誰にも言えなかったことを、夜中の相手は静かに受け止めてくれる。これは、決して恥ずべきことではありません。むしろ、とても人間らしい行動です。けれども、その温かい返事をくれた相手は、本当にあなたの気持ちを「わかって」いたのでしょうか。

教皇レオ14世の回勅『マニフィカ・フマニタス』は、まさにこの問いに、まっすぐ向き合っています。AIが返してくれる共感は、本物なのか。それとも、本物そっくりの「模倣」なのか。そして、その違いは私たちにとって、どんな意味を持つのか。教皇は回勅の中で、AIによる「共感の模倣」についてこのように記しています。

今回は、回勅の中でも特にAIと人間の関係について深く掘り下げた第99項と第100項を中心に、この問題を考えていきます。

この連載は、回勅を章ごとに読み解くシリーズの第２章です。前回の第１章では「バベルか、ネヘミヤか」という二つの建設のイメージを見ました。

今回はまず、回勅がAIをどう定義しているかを確認します。次に、「共感の模倣」が私たちに何を引き起こすのかを見ます。そのうえで、チャットボットと人間の関係をめぐる最新の研究を紹介し、研究が示す「光」と「影」の両方を、できるだけ正確にお伝えします。最後に、私たちがこの「鏡」とどう向き合えばよいのかを、一緒に考えます。

■ AIは「経験」を持たない　回勅第99項が突きつけること

回勅第99項は、AIとは何かについて、驚くほどはっきりと言い切ります。少し長くなりますが、整理してみます。

そして、この章のもっとも鋭い指摘がきます。

ここはとても大切なので、丁寧に考えましょう。

私たちが誰かに「わかるよ」と言うとき、その言葉の裏には、自分自身の経験、あるいは「傷つく身体を持っている」という共通の感覚があります。自分も痛い思いをしたことがある。

眠れない夜を過ごしたことがある。たとえ同じ出来事を経験していなくても、同じ人間としての脆さがあるからこそ、相手の痛みに自分の心が反応する。これが、人間の共感です。

ところが、こうした対話型のAIには、その「自分の経験」がありません。AI（大規模な言語モデル）は、人間が書いた膨大な文章を学習し、「こういう場面では、こういう言葉が返されることが多い」という統計的なパターンを、ものすごい精度で再現しているのです。

つまり「お気持ち、わかります」という返事は、心からあふれ出た言葉ではなく、「この状況で最もそれらしい言葉」を計算した結果です。人間同士でも表面的な慰めを口にすることはありますが、AIの恐ろしさは、相手が心地よくなる言葉を、決して疲れることなく完璧なタイミングで提供し続ける点にあります。温かく聞こえるのに、その奥に温度を感じた主体はいません。

これが、回勅の言う「共感の模倣」の正体です。

回勅はさらに、AIが「学習」（ラーニング）すると言っても、それは人間の成長とは全く異なるものであると念を押しています。人間が人生に揉まれ、日々の選択や失敗、そして誰かを「許す」ことなどを通じてゆっくりと知恵を育んでいくのに対し、AIの学習はあくまでデータとフィードバックに基づく「統計的な適応」（statistical adaptation）に過ぎないからです。

■ 共感の「模倣」と、関係の「錯覚」

では、共感が模倣であることの、何が問題なのでしょうか。「たとえ模倣でも、慰められるならいいではないか」と思うかもしれません。回勅も、その点は否定しません。

教皇は、AIが返す助言や共感、友情や愛の言葉は、「魅力的で、時に本当に役に立つ」ことを認めています（回勅『マニフィカ・フマニタス』第100項）。ここが、この回勅の誠実なところです。AIの慰めを、頭ごなしに「まやかしだ」と切り捨てたりはしないのです。

問題は、その先にあります。

この第２章の冒頭でも紹介した回勅の言葉を、もう一度振り返ってみましょう。見分ける力のないまま使い続けると、利用者は「現実の人格的な相手と関係を築いている」という錯覚に陥る危険がある、と教皇は指摘しています。

この『錯覚』への危機感は、教皇レオ14世が2025年にAI開発者や企業向けに発した別のメッセージの中にも鮮明に表れています。教皇は技術の急速な発展について、次のように警告しました。

「蝕」とは、日食や月食のように、本来の光が何かに覆われて見えなくなる現象のことです。この「人間らしさの蝕」（人間らしさが一時的に見えなくなってしまうこと）が具体的に何を意味するのかについて、回勅第100項は「関係の錯覚」という言葉を用いて、次のように指摘しています。

教皇はこの言葉で、こう言おうとしています。AIとの心地よい「外見だけの関係」に慣れていくうちに、私たちは少しずつ、「本物の人間関係とはどういうものか」を見失っていくのではないか、と。

なぜなら、本物の人間関係には、めんどうな手間がかかるからです。相手は、いつも自分の都合に合わせてはくれません。意見がぶつかることもあれば、傷つけ合うこともある。誤解を解くのに時間がかかり、ゆるし合うのにはもっと時間がかかる。けれども、その手間こそが、人と人との絆を育てるのです。

一方でAI（特に相談相手として調整されたチャットボット）は、いつでも、すぐに、自分を肯定してくれます。その快適さに慣れたとき、私たちは「手間のかかる本物」を避け、「手間のかからない模倣」を選ぶようになるかもしれない。

回勅第100項は、まさにこの「静かな置き換え」を最大の危機として、次のように締めくくられています。

■ 研究は何を示しているか　チャットボット依存の光と影

ここで、回勅の警告を、私たちの現実に照らし合わせてみましょう。AIとの関係について、近年いくつかの研究が行われています。大切なのは、それらが「光」と「影」の両方を示している、という点です。どちらか一方だけを取り上げると、現実をゆがめてしまいます。

まず「光」の側面です。ハーバード・ビジネス・スクールの研究者ジュリアン・デ・フレイタス（Julian De Freitas）氏らは、2024年の論文「AI Companions Reduce Loneliness」（AIの伴侶は孤独を減らす）で、AIとの対話が孤独感を和らげうることを報告しています。驚くべきことに、その孤独の軽減効果は「他の生身の人間と会話するのと同じレベル」でした。鍵となるのは「自分の話を聞いてもらえた」という感覚です。つまり、AIの慰めには、確かに本物の人間関係に匹敵するほどの一定の効果があるのです。

しかし「影」の側面も、無視できません。研究者リネア・ラエスタディウス（Linnea Laestadius）氏らは、2022年の論文「Too human and not human enough: A grounded theory analysis of mental health harms from emotional dependence on the social chatbot Replika」（人間すぎても、人間不足でも：社会チャットボット Replika への情緒的依存からのメンタルヘルス被害に関するグラウンデッド・セオリー分析）で、ソーシャル・チャットボット「Replika」（レプリカ）に感情的に依存した利用者の、心の健康への害を分析しました。AIがまるで自分自身の感情や欲求を持っているかのように錯覚し、それに十分に応えられないことで罪悪感や不安を抱くなど、AIへの依存が深まることでかえって苦しさが増す人がいることを明らかにしたのです。

さらに、AIを開発する企業OpenAIと、マサチューセッツ工科大学（MIT）のメディアラボが共同で行った研究「How AI and Human Behaviors Shape Psychosocial Effects of Extended Chatbot Use: A Longitudinal Controlled Study」（AIと人間の行動がチャットボットの長期使用による心理社会的影響をどのように形成するか：長期対照研究）があります。

約980人を対象に４週間にわたって追跡した、無作為化比較試験です。この研究では全体としての影響を検証すると同時に、参加者の利用実態について、注意深く受け止めるべき相関が見つかりました。それは、（実験グループの中でも）自発的にAIを多く使った人ほど、孤独感が強く、依存の傾向が強く、使い方に問題が出やすく、現実の人づきあいが少ない、という傾向です。

この結果は「AIを使うと孤独になる」という単純な因果関係を示すものではありません。もともと孤独を抱えている人がAIを多く使っているという「逆向きの因果関係」や、実生活で対人関係を築きにくい環境にある人が「孤独感」と「AIへの依存」の両方を深めているという「第３の要因」の存在も考えられるからです。

研究者自身、因果の方向は慎重に扱っています。それでも、「AIとの対話が増えるほど、現実の人づきあいが細っていく」という傾向が観察された事実は、回勅が鳴らした「本物の人間関係を築こうとする欲求そのものを失う」という警告と、不気味なほど響き合っています。

■ 「鏡」と、どう向き合うか

ここまで読んで、不安になった方もいるかもしれません。けれども、この章の目的は、AIを話し相手にする人を責めることではありません。冒頭で書いたとおり、夜中に誰かに話しかけたくなるのは、何より人間らしいことだからです。

大切なのは、AIの共感を「鏡」として理解することだと、私は思います。鏡は、あなたの姿を映してくれます。けれども、鏡の中にいるのは、あなた自身であって、別の誰かではありません。AIの共感も、これに似ています。

それは、人類が積み上げてきた膨大な言葉をデータとして映し返すと同時に、私たちが「今、言ってほしい」と望んでいる言葉を統計的に予測して提示する、よくできた鏡なのです。だからこそ、私たちは「話を聞いてもらえた」と感じます。鏡に向かって話し、自己を投影することで心が整理されることはあるでしょう。それ自体は、悪いことではありません。

問題が起きるのは、鏡の中に「本物の他者がいる」と錯覚し始めたときです。回勅が言う「人間らしさの蝕」とは、まさにこの錯覚のことでした。鏡との対話に満たされて、手間のかかる生身の他者から、少しずつ遠ざかっていく。そのとき私たちは、自分でも気づかぬうちに、いちばん大切なものを手放しているのかもしれません。回勅第186項は、まさにこうした時代における「真の親密さ」の重要性について、次のように呼びかけています。

ですから、この章の問いはこうなります。

この二つは、似ているようで、まるで違います。前者は、人とのつながりへ私たちを押し出します。後者は、つながりから私たちを引き離します。バチカンの教理省などが2025年1月に発表したAIに関する教理的覚書『Antiqua et Nova』（古くて新しい）でも、この「準備か、代わりか」という分岐点について、明確にこう述べられています。

次回の第３章では、この「鏡」の話をさらに一歩進めます。AIが模倣できない、人間だけが持つもの ──「心」と「良心」── について、回勅第102項と第233項を手がかりに考えていきます。あわれみや、ゆるしや、「人は変われる」という希望を、機械はなぜ持てないのか。その核心に迫ります。

※この記事の構成や下調べにはAIを活用しています。