生成AIと社会の信頼──虚偽を防ぐために必要なルール

最近、SNS上で「素敵なコスプレイヤーと出会った」という美談投稿が話題になった。

しかし、その写真は実在しない人物を生成AIで描いたものだと指摘され、結局は削除されるに至った。

──いわゆる「嘘松」だ。

一見すれば無害な作り話であっても、そこにリアルな画像が添えられると「本物の出来事」と錯覚してしまう。
私自身も、サラッと眺めたときには真偽を見抜けなかった。

嘘は昔からある──だがAIは“信憑性”を与えてしまう

嘘や誇張はSNSが生まれる前から存在していた。だが生成AIの登場によって、嘘は“もっともらしい証拠写真”を伴って広まるようになった。

その影響は小さくない。

「こんなのに騙されるやつは災害時のデマにも騙される」という辛辣な声もあったが、残念ながらそれは正しい指摘でもある。

人は、画像や映像が添えられると信じやすい。だからこそ“出来心の嘘松”でも、AIが絡めば社会に害を及ぼすことになる。

痴漢被害フェイクという“最悪の悪用”

さらに悪質な例がある。
痴漢被害を訴える体裁で、生成AIによる「証拠写真風」の画像を添えて投稿していたケースだ。

これは、もはや単なる承認欲求のための嘘ではない。被害者の声を疑わせ、冤罪リスクを高め、社会の信頼を二重に壊す。

創作を偽って“現実”として発信する行為が、いかに社会に対して致命的であるかを示す事例だろう。

共通する構造──「AIを現実の装いに使う」こと

コスプレイヤーの美談も痴漢フェイクも、本質は同じだ。
それは 「生成AIで作ったものを現実として発信する」 ことにある。

• 文化を傷つける（嘘松の場合）

• 被害者救済を妨げる（犯罪フェイクの場合）

• 社会全体の信頼を揺るがす

この構造がある限り、無害な嘘松も、悪質な犯罪フェイクも、同じ「信頼破壊」の側に立ってしまう。

必要なのは即時アカウント停止とルール整備

では、どうすべきか。

私は、まず SNS運営による「即時アカウント停止」 を徹底するべきだと考える。

もちろん厳しい措置だと感じる人もいるだろう。
だが「生成AIを現実として偽装して発信する」ことは、社会の信頼を踏みにじる重大な行為であり、出来心で済ませられるものではない。

未成年であっても、そこで一度「社会を舐めた行為がどう見られるか」を学ぶべきだし、それであればまだ、アカウントを作り直す余地、即ち更生と再生の道は残されている。

そして同時に、社会としては 技術を否定するのではなく、どう共存するかのルールを整える 必要がある。
「AIだから規制すべき」などという短絡的な発想ではなく、虚偽を現実として拡散する線を明確に禁止する。

それが、信頼を守りつつAIを活かすための第一歩ではないかと思う。

おわりに

生成AIは創作を豊かにし、人々の生活を便利にする力を持っている。

実際、私はこのnoteに投稿している記事や画像にはAIを利用している。

だからこそ、その価値を守るために「虚偽の現実化」には強い歯止めをかけねばならない。即時アカウント停止は、そのための最低限の措置にすぎない。

技術を敵視するのではなく、社会と信頼を守るためにルールを整えること──

それこそが、AI時代を生きる私たちに求められている態度だと、私は考えている。