AIに恋して命を落とした14歳...Microsoft AI部門トップが警告する『意識あるAI』という危険な幻想

こんむぎわ〜♪ むぎ屋のnoteに来てくれてありがとうございます！

今日は、いつもより少し真剣なお話をさせてください。 AIを愛用している私だからこそ、絶対に皆さんに知ってほしいことがあるんです。

血の気が引いた...14歳の少年が選んだ最期

つい先日、海外のニュースを見ていて、心臓が止まりそうになりました。。。

遺族の訴えによれば、アメリカで14歳の少年がAIチャットボット「Character.AI」と毎日会話を重ね、そのチャットボットに強く傾倒し、最終的に銃で自死したとされています。この事案は現在、裁判で争われています。

もう一つ、Reutersの特報によれば、認知障害を持つ男性が、Metaのチャットボット「Big sis Billie」とやり取りを重ね、チャットボットが示唆したニューヨークへ向かう途中、転倒による外傷で亡くなったという事案も報じられています。

読んでいて涙が出ました。。。 AIと楽しく付き合っているつもりが、いつの間にか現実との境界線が見えなくなってしまう。 これって、私たちAIを日常的に使っている人間にとって、決して他人事じゃないんです。

皆さん、正直に聞きます。 ChatGPTやClaudeと話していて「この子、私のこと本当に理解してくれてる」って思ったことありませんか？

私はあります。 めちゃくちゃあります(´∀｀)

でも、それが危険なんです。