子どもとディープフェイク規制の「ややこしさ」 / 欧州議会調査局2025年ブリーフィングとAI Actの透明性義務を題材に雑感

0　はじめに

　ディープフェイクという語は、もはや技術用語というより、社会不安のトリガーとして機能している。実務の現場でも、ディープフェイクと聞けば「とにかく危ない」「全部禁止するしかない」といった反射的な議論が起こりやすい。しかし、技術は常に両義的であり、法はその両義性と付き合う制度である。ディープフェイクもまた、手段としては単一であっても、目的と文脈が多様である以上、単純な善悪二分法では立ち行かない。

　この技術が厄介なのは、社会の「信頼のインフラ」に直接触れる点にある。人は画像や声や映像を、少なくともこれまでは、一定程度「現実の痕跡」として扱ってきた。そこに人工物が混入し、混入の割合が上がるほど、社会は二つの方向に引き裂かれる。偽物が増えるからこそ、あらゆる表現を疑い、対話のコストが上がる方向。偽物が増えるからこそ、疑うことを諦め、流れてきたものをそのまま信じる方向。どちらも健全ではない。したがって法が扱うべき核心は、「ディープフェイクという技術」それ自体よりも、「偽装が安価に量産される環境」の設計にある。

　欧州議会調査局は2025年7月、「子どもとディープフェイク」と題するブリーフィングを公開した。本稿では、同資料およびAI法の専門家Théo Antunes博士の見解を手掛かりに、ディープフェイク規制の構造を整理する。特に、判断能力の発達段階にある子どもに対してこの技術がどのような固有のリスクをもたらすか、そしてEUの法的枠組みがいかなる設計思想でこれに対処しようとしているかを検討する。

1　問題の所在

1.1　量的爆発という現実

　まず数字を確認しておく。欧州議会調査局によれば、2025年に共有されるディープフェイクは800万件に達し得るとの推計が示されている。2023年の50万件から急増しており、およそ半年ごとに倍増するペースである。さらに衝撃的なのは内容の偏りであり、欧州委員会はディープフェイク素材の約98%がポルノグラフィに関連すると指摘する。欧州刑事警察機構は2026年までにオンラインコンテンツの90%が合成生成されたものになる可能性を示唆しており、「何が真実か」を常に疑わなければならない時代への突入を予見させる。

　こうした数字が正確に何を測っているかは慎重に扱う必要があるものの、少なくとも「性的文脈での濫用が主要なドライバーである」という事実認識は、規制の優先順位を決める上で重い。

1.2　用途の四象限

　ディープフェイクは、否定的な文脈で語られることが多いが、その用途は多岐にわたる。Antunes博士が整理するように、完全に合法的なものから明確に禁止されているものまで様々である。実務上有効なのは、用途を四象限で整理することである。

　象限ごとに求められるルールは異なる。第一・第二象限では透明性と来歴表示が中心となり、第三象限では被害者救済と拡散防止が中心となる。第四象限では、そもそも提供・利用を止める設計が中心となる。

1.3　ディープフェイクは何を「偽装」するのか

　ディープフェイクは一般に、「AIが生成・操作した画像・音声・動画であって、既存の人物・物体・場所・出来事等に似せ、真正らしく見せるもの」と整理できる。AI法も同様に定義する。重要なのは、ここで偽装されるのが「内容」だけではない点である。偽装されるのは、人物の同一性、出来事の発生、そして証拠としての外観である。

　法は伝統的に、出来事の虚偽を扱ってきた。名誉毀損、業務妨害、詐欺などである。しかしディープフェイクは人物の同一性と証拠の外観を同時に侵食する。被害は「嘘をつかれた」だけではなく、「自分の人格の器である顔や声が勝手に持ち出され、社会に流通する」ことにある。この点で、同意の有無が中核的な分水嶺となる。

　さらに、偽装がスケールするという性質から、個別救済だけでは追いつかない場面が増える。したがって法の設計は、事後救済と事前摩擦の組合せにならざるを得ない。ラベリング、プロヴナンス、プラットフォームの拡散制御といった事前摩擦が、事後の削除請求や損害賠償と並んで重要になる。

2　子どもに対する特有のリスク

2.1　スケールと脆弱性の複合

　子どもにとってディープフェイクの問題が深刻なのは、被害の深さに加えて、遭遇頻度が上がりやすい点である。欧州議会調査局によれば、英国では8歳から15歳の子どもの約50%が過去6ヶ月以内に少なくとも1つのディープフェイクを目にしたと報告している。

　興味深いのは、自信と実態の乖離である。成人のわずか9%しかディープフェイクを見抜く自信を持っていないのに対し、8歳から15歳の子どもの約20%が「自信がある」と回答している。しかし実際には、IT専門家でさえAI生成コンテンツの62%を見誤るというデータがある。この乖離は、子どもが無防備に危険に晒される要因となる。

　子どもは認知能力が発達段階にあり、現実と虚構を区別することが困難である。また、オンライン上の有害実践であるグルーミング、サイバーいじめ、児童性的虐待記録物にさらされやすい。

2.2　学校という密室で起きるディープフェイク

　同意のない性的ディープフェイクの典型として、いわゆるnudifyアプリがある。SNS上の画像を素材に、同級生等の裸体画像を生成して共有するという使われ方である。欧州議会調査局によれば、毎月数百万人のユーザーが100以上のnudifyサイトを訪問しており、これがディープフェイク経済の主要なドライバーとなっている。

　ここでは、被害者と加害者が同じ未成年コミュニティに属し得るという点が厄介である。被害を受けた子どもは、それが「偽物」であると理屈では理解していても、自身の尊厳が傷つけられたと感じ、不安、抑うつ、心的外傷後ストレス障害を発症するリスクがある。刑事司法だけで解くのは難しく、学校・保護者・プラットフォームの三者で、発生予防と早期介入を設計する必要がある。

2.3　音声ディープフェイクと「親の声」を借りる詐欺

　子どもをめぐるリスクは性的文脈に限られない。音声ディープフェイクは、とりわけ検知が難しく、詐欺に使われやすい。欧州議会調査局によれば、2024年にディープフェイク攻撃は5分に1回発生し、企業の49%が音声・動画ディープフェイクを経験したとされる。また、成人の4人に1人がAI音声詐欺に遭遇または知人が被害に遭っており、その70%がクローン音声を見抜く自信がないと回答している。

　子どもに関しては、本人がターゲットになるだけでなく、家族関係を媒介に攻撃される。声は顔よりも入手が容易であり、電話という古典的インターフェースで通用する。ここで必要なのは、「AIだから危険」という漠然とした警告ではなく、「認証の設計が声に依存し過ぎている」という構造的な診断である。

3　EUにおける規律のレイヤー

3.1　AI法の透明性義務

　AI法の興味深い点は、ディープフェイクを「高リスクAI」に一般化して押し込めず、透明性義務として切り出している点にある。同法50条4項は、ディープフェイクを生むAIシステムのデプロイヤーに対し、当該コンテンツが人工的に生成又は操作された旨を開示する義務を課す。「これは作り物である」というラベルは、少なくとも受け手の認知的コストを下げる。

　ただし例外と限定が付く。第一に、犯罪捜査等の目的で法により許容された利用については、この義務が適用されない。第二に、コンテンツが明白に芸術的・創造的・風刺的・フィクション等の作品の一部である場合、透明性義務は、作品の表示・享受を妨げない適切な方法で「生成・操作された内容が存在する」ことを開示する限度にとどまる。ここには、表現の自由に対する配慮が見える。

　さらに同条項は、公共の利益に関する事項を公衆に知らせる目的で公表されるテキストについても、AI生成・操作である旨の開示を要求する一方、人によるレビュー又は編集上の統制がなされ、自然人又は法人が編集責任を負う場合には義務が外れるとする。冒頭で触れた「疑うことのコスト」を、社会に全部転嫁しないための設計であるが、他方で「どの程度のヒト関与があれば免責か」という実務上の線引きを不可避にする。

3.2　ラベルの実装問題

　AI法はラベリングの実装を条文だけで完結させていない。50条7項は、AI庁が人工的に生成・操作された内容の検知とラベリングに関する行動規範の策定を促進し、必要に応じて委員会が実施法で承認又は補完し得るとする。「ラベルせよ」という規範命令の後ろに、技術標準と運用設計の難題が広がっている。

　ラベルが「意味」を持つには、少なくとも三つの条件が必要である。表示されること、改ざんされにくいこと、相互運用できることである。条文が扱うのは主に表示の要件である。改ざん耐性と相互運用性は、ウォーターマーキング、メタデータ、コンテンツ認証等の技術政策に踏み込む。法は技術の選択肢を固定しにくいのであり、その結果として原則規範と標準化という分業になる。

　Googleなどが開発する不可視の透かし技術は有望であるが、問題はすべてのAIプロバイダーが統一規格を採用しているわけではない点にある。また、検出アルゴリズムの進化は、皮肉にも生成アルゴリズムに「どうすればバレないか」を学習させるフィードバックループを生み出す。

3.3　デジタルサービス法とプラットフォーム責任

　ディープフェイクは、生成者だけでなく流通者を見ないと制御できない。そこで接続するのがデジタルサービス法である。同法は、違法コンテンツや有害活動に対処するため、仲介サービス、とりわけ大規模オンラインプラットフォームにデューディリジェンス義務を課し、システミック・リスクの評価と軽減措置を要求する。子どもに対するオンライン危害は、まさにその典型的リスクとして位置付けられる。

　AI法の透明性義務は「ラベル」という点の規律であるのに対し、デジタルサービス法は「拡散の抑制」「通報処理」「リスク軽減措置」「監査」といった線の規律を用意する。両者は競合ではなく役割分担である。深刻なディープフェイク被害の多くは、生成そのものよりも、拡散・推薦・再投稿の連鎖で増幅されるからである。

3.4　非同意の性的ディープフェイクと刑事法

　同意のない性的ディープフェイクは、被害者の尊厳を直接侵害し、かつ「一度ネットに出ると回収できない」性質を持つ。EUでは、女性に対する暴力・ドメスティックバイオレンスに関する指令2024/1385が、同意のない親密画像の共有等のオンライン暴力を取り扱い、AI生成画像も射程に含める。同指令は、加盟国に対し親密な画像素材の共有の犯罪化を求めており、ディープフェイクの作成と拡散もこれに含まれる。

　さらに、児童性的虐待指令の改正提案は、ディープフェイクにおける児童性的虐待記録物を犯罪類型の定義に組み込む方向を示す。実在の児童が描写されていない場合でも児童ポルノとしての違法性を問えるようにすることは、法の抜け穴を塞ぐ上で不可欠である。英国では、日常的な児童の写真を児童性的虐待記録物に変換する行為自体が、既に児童性的虐待法の下で訴追される事例も出ている。

　ここでのポイントは、「内容が虚偽か否か」ではない。被害は、本人の意思に反して性的文脈に投げ込まれることで生じる。だから規律は、真偽ではなく同意を軸に組み立てられる。

4　技術的・教育的アプローチ

4.1　検出技術の限界

　ディープフェイクの検出技術と生成技術は、終わりのない軍拡競争の状態にある。初期の検出ツールは視覚的な異常に注目していたが、現在では深層学習技術がオンライン上の大量の真偽データを活用している。しかし、検出アルゴリズムの訓練は生成ツールが作成した偽データに依存するため、検出器は常に生成器の後追いとなる。

　したがって、事後的な検出よりも効果的とされるのが、「セーフ・バイ・デザイン」のアプローチである。AIモデルの開発段階において、児童性的虐待記録物や有害なコンテンツの生成をあらかじめブロックする機能を組み込むことである。テック企業には、特に未成年者が利用する可能性のあるツールにおいて、年齢に応じた安全設計を実装する責任が求められる。

4.2　AIリテラシー教育

　最後の防波堤となるのは、ユーザー自身のリテラシーである。欧州議会調査局によれば、生成AIに関するクラスディスカッションに参加した子どもは、AI生成出力の真偽を確認する傾向が高いとされる。しかし、ティーンエイジャーの60%は、生成AIに関するポリシーを持たない学校に通っているか、学校の方針を認識していない。

　ユニセフやOECDはAIリテラシーの枠組み策定を進めており、2026年には最終版が公開される予定である。単なる操作スキルの習得だけでなく、批判的思考の育成が重要となる。動画内の不自然な影、瞬きの頻度、音声の違和感といったディープフェイクの特徴を見抜く訓練や、見た情報を鵜呑みにせず一次情報を確認する習慣づけである。

　学校教育においては、サイバーいじめに関する校則や行動規範をアップデートし、ディープフェイクの作成や拡散を明確に禁止事項として明記することも、規範意識の醸成には有効であろう。

5　おわりに

　ディープフェイクは、本質的に善でも悪でもない。しかし、社会の信頼コストを引き上げる装置であることは確かである。Antunes博士が述べるように、課題は技術そのものの否定ではなく、イノベーションと芸術的自由の場を確保しつつ、犯罪的かつ禁止された行為に厳しく対処することにある。

　法の役割は、技術を禁圧することではない。合意ある創造を通すためのルールを整え、合意なき搾取を止めるための歯止めを用意し、拡散装置の責任を設計し、教育とリテラシーで最後の防波堤を厚くすることである。AI法の透明性義務は、その入口に「ラベル」という小さな摩擦を置いたにすぎない。しかし、小さな摩擦は、スケールする虚偽に対しては意外に効く。問題は、摩擦をどこに、どの強さで置くかである。

　子どもの保護という文脈においては、そのバランスは圧倒的に「保護」へと傾斜すべきであろう。子どもの尊厳と精神的十全性が、技術の進歩の犠牲になってはならない。法による禁止と処罰、プラットフォームによる自律的なコンテンツモデレーション、技術的なセーフ・バイ・デザインの実装、そして社会全体でのリテラシー教育。これらが有機的に連携して初めて、ディープフェイクのリスクを管理可能なレベルに抑え込むことができる。

　法学研究者や実務家としては、AI法等の解釈論を深めるだけでなく、刑事法における児童ポルノの定義拡張や、民事法における人格権侵害の救済スキームなど、既存の法体系がこの新しい現実にどう適応できるかを不断に問い続ける必要があるように思う。

（参考）　ディープフェイク関連

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。