AI倫理と法 / 原則・生きた現実・権力構造 / 三つが法に突きつける変換作業雑感

Ⅰ　問題の所在

　AI倫理という語は便利である。便利であるがゆえに、議論の焦点をぼかすこともある。企業のガイドライン、政府の指針、研究者の提言、そして現場の「なんとなく嫌な感じ」まで、同じ袋に詰め込めてしまうからである。結果として、倫理を語っているつもりで、実は互いに違うものを見ている、という事態がしばしば起こる。

　この点を丁寧に交通整理したレビューが出た。Elizabeth M. Groen、Tamar Sharon、Marcel Beckerによる「AI倫理の概観：原則、生きた現実、権力構造のレンズを通じた道徳的懸念」である〔注1〕。同レビューは、AIが提起する道徳的懸念を、原則（principles）、生きた現実（lived realities）、権力構造（power structures）という三つのアプローチとして整理する。注目すべきは、同じ公平（fairness）や持続可能性（sustainability）といった論点が、どのアプローチで見るかによって、問題の立て方も処方箋もかなり違ってくる点を、結論部で具体例として示しているところである。

　今回の関心は単純である。法はこの三つのアプローチのどこに立って、どのように往復運動をすべきか。あるいは、法が往復を怠ったとき、何が起きるか。雑感としてメモしておく。

Ⅱ　三つのアプローチの概要

1 方法論の前提

　同レビューは、ナラティブ・シンセシス（narrative synthesis）として、雪だるま式（snowball sampling）に文献を集め、AIが提起する道徳的懸念をどう定式化するかに注目して三類型を抽出する〔注1〕。重要なのは、同レビューが認識論的・技術的・法的次元に主眼を置く文献を、道徳的次元と区別できる限りで除外した点である。つまり、法そのものをレビュー対象の中心に置いていない。にもかかわらず、原則アプローチの説明の中で「原則は法へ翻訳されうる」と明示的に言及し、結論部でも公平を反差別法に翻訳する典型を挙げている。ここに、法側から読み返す余地が生じる。

2 三つのアプローチの骨格

　同レビューは、三つのアプローチを、焦点、方法、理論的伝統、限界まで含めて並べる。ごく要点だけ抜き出せば、次のとおりである。

　第一に、原則アプローチは、普遍的で固定的な原則に着目し、概念的手法を中心に、理論が実践に先行する〔注1〕。カント的な義務論の伝統に根ざし、文脈を超えて適用可能な規範の定立を目指す。EUの「信頼できるAIのための倫理ガイドライン」が四原則（人間の自律の尊重、害の防止、公平性、説明可能性）を掲げるのは、このアプローチの典型である〔注2〕。強みは一般化のしやすさであり、弱みは実装から遠いこと、そして権力構造や人間とAIの相互作用を見落としがちなことである。

　第二に、生きた現実アプローチは、人間と技術の関係性や、人間のフローリッシング（flourishing）に着目し、ローカルな実践をエスノグラフィ等で捉える〔注1〕。アリストテレス的な徳倫理学やポスト現象学、科学技術社会論（STS）の伝統に根ざす。技術は価値を一方的に受け取るだけではなく、価値や規範そのものを共形成するという見立てがあり、公平概念が争われ変わりうるという指摘（value change）も、このアプローチが得意とするところである。強みは現場で何が起きているかに強いことだが、弱みは一般化の難しさと、個別経験に寄りすぎると背後の構造を取り逃がしうる点である。

　第三に、権力構造アプローチは、支配、差別、搾取、社会正義を前景化し、監視、バイアス、政治経済（プラットフォーム化等）に焦点を当てる〔注1〕。フーコー的な権力論や批判的データ研究、プラットフォーム研究の伝統に依拠する。ここでのポイントは、バイアスがデータの偏りという技術問題に還元されないことである。なぜ偏りが生まれ続けるのか、誰が定義権を持つのか、どのような歴史が背景にあるのか、という問いが出る。強みはマクロな条件を可視化することだが、弱みは権力という説明軸が決定論的・還元的になり、人間のエージェンシーや他要因を見落とし、批判が建設的応答を阻むことがある点だという。

Ⅲ　原則アプローチと法の親和性

　原則アプローチがAI倫理の主流であることは、同レビュー自身が明言する〔注1〕。そしてこのアプローチは、ガイドラインを作り、文言に落とし、横断的に適用し、法や設計に翻訳するのに向いている。ここで法学者がうなずくのは自然である。「原則から義務へ、義務から制度へ」という道筋は、法の得意技である。反差別法、個人情報保護、説明責任、監査義務といった設計は原則アプローチと整合する。

　しかし、同レビューは同時に、原則アプローチの限界を二つ指摘する。第一に、原則はローカル文脈から切り離され、原則と実践のギャップ（principles/practice gap）を生む〔注1〕。このギャップはチェックリスト倫理（checklist ethics）に堕しうる〔注3〕。第二に、原則アプローチは社会的・政治的・経済的文脈からも切り離されがちで、構造的不平等や権力関係が視野から落ちる〔注1〕。倫理原則とビジネス実務のあいだに摩擦がない（lack of friction）という批判が出てくるのも、まさにここである〔注4〕。

　法に引き直せばこうなる。原則を義務に落として満足すると、義務が現場でどのように運用され、回避され、変形されるか、そもそも当該AIが動く経済的インセンティブや制度配置が何か、が抜ける。結果として、コンプライアンスが原則を満たしたことにする技術になる。倫理がtoothlessになり、規制逃れの装置になる危険は、AI倫理領域でもethics-washingとして論じられてきた〔注5〕。

Ⅳ　生きた現実アプローチと運用への目配り

　生きた現実アプローチが法に与える示唆は、原則を否定することではない。原則を運用へ翻訳する過程を重視せよ、ということである。原則を条文にした瞬間に終わりにせず、運用の回路（組織体制、評価、改善、現場のフィードバック）を制度の中心に据える必要がある。

　ここで重要なのは、同アプローチの弱点でもある。ローカルな経験は一般化が難しく、処方箋が出しづらい〔注1〕。したがって法は、一回で正解を出す規制よりも、反復的に学習し修正する規制技術の方が相性がよい。影響評価や監査を一度きりの書類ではなく学習装置にする、というような発想である。

　同レビューが紹介するCruzらの研究は、ロサンゼルス港の自動化に対する労働者コミュニティの抵抗を扱っている〔注6〕。港湾労働者は、雇用の問題を超えて、コミュニティのアイデンティティや歴史的文脈に根ざした道徳的懸念を表明した。こうした現場のリアリティは、抽象的な原則論からは見えてこない。

Ⅴ　権力構造アプローチと規制対象の拡張

　権力構造アプローチは、法の射程を広げる。AIを個別のシステムとして規制するだけでは足りない、という示唆である。監視社会化、労働の搾取、公共価値の侵食といった問題は、個々のアルゴリズムに倫理原則を埋め込むだけでは止まらない。市場構造、ガバナンス構造、調達構造、データの所有と支配、そして国家権力との結節点が問題になる。

　もっとも、このアプローチにも罠がある。同レビューがいうように、権力を万能の説明概念にすると決定論になり、批判が処方箋を阻むことがある〔注1〕。Cohenが指摘するとおり、理論的純粋性の追求は、具体的な行動や効果的な規制に必要なプラグマティズムを欠くことがある〔注7〕。法の仕事は、批判を制度技術に翻訳することである。批判を保持したまま、どのレバーを引くか、が問われる。

Ⅵ　同じ論点が異なる姿を見せる

　同レビューの白眉は、同じ倫理的論点が、アプローチによって全く異なる診断と処方箋を与えることを示した点にある。公平を例に取る〔注1〕。

　原則アプローチでは、公平は抽象的かつ普遍的な概念である。差別禁止法への準拠や、fairness by designのような技術的実装、あるいは統計的なバイアス除去によって解決が図られる。法務担当者がまず参照するのはこの視点であろう。

　権力構造アプローチでは、公平の欠如は歴史的な不正義や権力勾配の結果である。アルゴリズムの修正だけでは公正にはならず、データセットの背景にある社会的不平等を是正するアファーマティブな介入や、構造変革が必要とされる。

　生きた現実アプローチでは、公平の概念自体が、AIとの相互作用の中で変化しうる。Danaherが論じるように、ChatGPTの導入によって、低スキル労働者と高スキル労働者の生産性格差が縮まることを、現場の人々がどう受け止め、どう公平感を再構築していくかというプロセスが問われる〔注8〕。

　持続可能性についても同様である。原則アプローチでは、持続可能性はAI開発において遵守すべき新たな原則の一つとして追加される。権力構造アプローチでは、AI産業の政治経済的ドライバーや、グローバル・ノースとサウスの間の資源収奪の不均衡、世代間正義が問われる。生きた現実アプローチでは、AIの環境負荷をユーザーに提示した際、ユーザーがどのような罪悪感や葛藤を抱き、実際の行動を変容させるか（あるいはさせないか）という微視的な心理と実践に注目する〔注1〕。

Ⅶ　むすびにかえて

　AI倫理は、原則のリストになりやすい。リストは、配りやすいし、守ったことにしやすい。だが、同レビューが示すのは、倫理がリストに還元される瞬間に、現場と構造が消える、ということである〔注1〕。法がそのリストをうまく翻訳すればするほど、ズレは見えにくくなる。これは皮肉である。

　三つのアプローチは、結論を与えない。むしろ、問いの立て方を整える枠組みである。法は枠組みを見ながら、条文だけでなく運用と構造にまで手を伸ばす必要がある。AIガバナンスの難しさは、技術が難しいからではない。問題の作り方が複数あり、その複数性を無視すると、規範が空転するからである。世界は複雑で、しかも複雑なまま進む。法の役割は、その複雑さに負けない形で、手を動かす回路を作ることにある。

　たとえば、企業のAI担当者や法務が、あるAI案件を検討するとき、次の三問を必ず立てることが有益であろう。第一に、何を守るべき価値として宣言しているか。公平、説明可能性、プライバシー、害の防止等のうち、何が前提か。第二に、現場では誰がどう使い、どのような回避・再解釈・抵抗が起きるか。人間とAIの相互作用の具体像は何か。第三に、当該AIが組み込まれる市場・組織・国家のインセンティブは何か。不利益はどこに集積し、利益はどこに集中するか。この三問に答える過程で、規制技術も変わる。原則を宣言するだけなら行動規範で足りる。だが、生きた現実を取り込むなら、影響評価や監査の運用設計が要る。権力構造まで見るなら、競争政策、労働保護、公共調達、データ・ガバナンスなど、AI法の外側に見える領域まで接続しないと、手触りのある解決に届かない。ここで初めて、法は倫理の翻訳者として機能しうる。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。