UNESCO「コンパニオン・ドキュメント」 / マシンの権利と作話のリスク / 計算資源ガバナンス 雑感

Ⅰ　プラットフォーム規制の射程拡張

　2025年7月、UNESCO（国際連合教育科学文化機関）は「デジタル・プラットフォームおよび生成AIのガバナンスのためのガイドライン：コンパニオン・ドキュメント（Companion Document）」を公表した〔注1〕。2023年に同機関が策定した「デジタル・プラットフォームのガバナンスのためのガイドライン」〔注2〕を基礎としつつ、その適用範囲を生成AI（Generative AI）へと拡張するための文書である。

　生成AIのガバナンスについては世界各地で議論が続いているが、本文書が採用するアプローチには一定の明快さがある。すなわち、AIを全く未知の対象として扱うのではなく、すでにデジタル・プラットフォーム規制を通じて蓄積されてきた枠組み、人権を基軸とする規律、複数の関与者による協働、システム全体への着目を、生成AIという新たな技術領域へ接続しようと試みている点である。技術の変化に対して法や規範がいかに追随しうるかという問いに照らせば、既存の情報流通基盤に関する規律の射程を伸ばすことで対応しようとする姿勢は、少なくとも実務上の出発点として合理的であると筆者は考える。

1　「マシンの権利」の否定と情報アクセス権

　本文書において法学上見過ごせない確認がなされている。AI生成コンテンツにおける権利主体の所在についてである。本文書は、「現時点において、機械（machines）は表現の自由やその他の人権を享有しない」と明記した〔注3〕。

　AIが生成したテキストや画像には、プロンプトを入力した人間の意思が介在する。しかし、その出力それ自体が、憲法上の権利主体による「表現」と同列に扱われるわけではない。この確認は、AI出力の規制が「表現の自由の侵害」にあたるか否かという議論の前提を整理するものとして機能する。AIの出力を規制する行為は、AI自身の権利を制約するのではなく、ユーザーの情報へのアクセス権（Access to Information）や表現の手段に対する制約として構成されるべき問題となる。

　筆者がここで着目したいのは、この整理がもたらす実践的な帰結である。AIの出力規制を「機械の表現の自由」の問題として構成すれば、規制の正当化はきわめて困難になる。他方、ユーザーの情報アクセス権の問題として構成すれば、アクセス権の保障と情報の完全性（Information Integrity）確保との間でバランスを図るという、既存の法理論で扱い慣れた枠組みに接続できる。本文書が前者を明確に退けた意義は、まさにこの接続可能性を開いた点にある。

2　「幻覚」から「作話」へ

　生成AIが事実に基づかない情報を生成する現象について、本文書の用語法にも触れておきたい。広く流布している「ハルシネーション（幻覚、hallucination）」に加え、「コンファビュレーション（作話、confabulation）」という用語が紹介されている〔注4〕。

　「幻覚」は、存在しないものを知覚してしまう受動的な異常を連想させる。これに対して「作話」は、もっともらしい文脈の中で虚偽の情報を能動的に構成してしまうという、生成AIの出力特性をより正確に表現している。神経心理学において「作話」とは、記憶の欠損を無意識に埋め合わせる現象を指すが、生成AIの振る舞いとの類推はかなり的を射ている。LLM（大規模言語モデル）は、学習データに基づく統計的なパターンからもっともらしい文を生成するのであって、事実の記憶や理解に基づいて回答しているわけではない。その出力が事実と乖離する場合、それは「見えないものが見えた」のではなく、「ないものをあるかのように語った」のであり、「作話」のほうが現象の記述として適切であろう。

　本文書は、現在の技術ではこの作話を完全に排除することは困難であると認めている。AI生成コンテンツを識別するための電子透かし（Watermarking）等についても、テキスト生成に関しては回避が可能であり万能ではないと分析している〔注5〕。技術的解決策の限界を認めた上で、メディア情報リテラシー（MIL）の向上やプラットフォームによる事後的な監視体制といった社会的対応の必要性を説いている点は、文書全体の論調として現実味がある。

Ⅱ　構造的な介入と予防

　本文書は、コンテンツレベルの対応にとどまらず、AI開発の構造そのものへの介入についても提言を行っている。

1　計算資源（Compute）のガバナンス

　注目すべき提言の一つが、計算資源（Compute）のガバナンスである。高度な基盤モデルのトレーニングには膨大な計算能力が不可欠であり、その調達コストの高さが、一部の民間企業への集中を招いている。本文書はこの集中が多元性（Pluralism）を損なうリスク要因であると指摘し、学術界、市民社会、政府機関など非営利の主体にもAI計算インフラへのアクセスを拡大するよう国家に求めている〔注6〕。

　この提言が単なる理念にとどまらない理由は、計算資源の偏在がAIのガバナンスにもたらす構造的な問題にある。仮に、ある国家がAI規制の議論に参加しようとしても、自国で大規模モデルの検証や代替モデルの開発を行う計算基盤を持たなければ、規制の実効性を技術的に担保する手段を欠くことになる。データやアルゴリズムの規律だけでは不十分であり、物理的インフラとしての計算資源の配分にまで視野を広げなければ、ガバナンスは空洞化しうる。本文書がこの点を明示したことは、今後の政策論議に対する具体的な問題提起となっている。

2　予防原則の適用

　AI製品のリリースに関して、本文書は予防原則（Precautionary Principle）の適用を提唱している〔注7〕。予見可能な危害が特定された場合には、事後的な対応よりも予防的な措置を優先すべきであるとし、製品リリース前の人権影響評価や安全性確認を強く推奨する内容である。

　わが国を含め、多くの法域でアジャイル・ガバナンスが志向される傾向にある。迅速な技術革新と市場投入を妨げないことへの配慮は理解できる。しかし、生成AIがもたらす影響には不可逆性が伴う場面が少なくない。一度拡散した差別的バイアスを含むコンテンツや、偽情報に基づいて形成された世論を事後的に「回収」することは、事実上不可能に近い。アジャイルであることと予防的であることは必ずしも二律背反ではなく、予見しうるリスクに対しては事前の評価を組み込むことで、両者は共存しうると筆者は考える。本文書が予防原則を掲げた意味は、速度と安全のバランスを改めて問い直すところにある。

Ⅲ　むすびにかえて

　本文書は法的拘束力を持たないソフトローである。しかし、デジタル・プラットフォーム規制の蓄積を生成AIへと拡張し、コンテンツ管理から計算資源の配分、予防原則の導入に至るまで、多層的なガバナンスの枠組みを提示した点は評価に値する。とりわけ、技術的解決策の限界を率直に認めた上で、構造的な介入の必要性に踏み込んでいる点は、単なる倫理宣言とは一線を画している。

　生成AIの技術変化は速く、2025年の文書といえども陳腐化のリスクは免れない。それでもなお、人間の尊厳と権利を中心に据えたガバナンスの基本線は、技術がいかに変容しようとも維持されるべき前提であると考える。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。