AIリーガル・アラインメント論の射程雑感

0　はじめに

　AIアラインメントという語は、もはや便利な合言葉である。望ましい振る舞いをAIにさせたい、危険な振る舞いをさせたくない、この素朴な願いを、規範の問題（何を善しとするか）と技術の問題（それをどう実装するか）に分解した概念装置だからである。他方で、この合言葉は、ときに空疎にもなる。アラインメントを語る者が増えるほど、「誰の価値に合わせるのか」という根本が霧散しがちだからである。

　この点で興味深いのが、Koltらの論文「Legal Alignment for Safe and Ethical AI」である。そこでは、従来のアラインメント研究が見落としてきた実践知として「法」を正面から据え、AIを法に整合させるという研究領域、legal alignment（リーガル・アラインメント）を提示する〔1〕。本稿は同論文の射程を手掛かりに、リーガル・アラインメントが投げ込む論点を、雑感として整理する。

1　問題の所在

　既存の主流的アラインメントは、大雑把にいえば「開発者が書いた仕様」と「ユーザの指示」を中心に回っている。強化学習とフィードバック（人間、ないしAI）を通じて、モデルに「こう振る舞え」という仕様への適合を学習させる。その結果、実務上は相当程度の安全装置が整った。しかし、穴は残る。虚偽や偏り、過度な迎合（sycophancy）、脱獄（jailbreak）、プライバシー侵害等、列挙するだけで息切れする種類の失敗が報告されている〔1〕。

　より厄介なのは規範面である。企業が策定するモデル仕様や行動規範は、どうしても私的な統治である。透明性にも限界があり、社会的に対立する価値（安全と表現の自由、利便性とプライバシー等）をどう調停するかについて、手続的正当性を欠きやすい〔1〕。要するに、現在のアラインメントは「正しそうに見える規範」を寄せ集めることには長けているが、その規範を正当化する制度を内蔵していない。

2　法という資源の筋の良さ

　リーガル・アラインメントの提案は、法を万能薬として持ち上げる話ではない。むしろ、法を「最低限の床（lower bound）」として位置づける点に筋がある〔1〕。法は、少なくとも民主制と法の支配を前提とする社会において、（理想化された意味で）透明で、公開の手続を経て制定・解釈・適用され、理由付けを要求する。しかも、価値の衝突を前提に、比例原則や衡量（balancing）といったメタルールを蓄積してきた。AIの仕様書が数十ページ伸びたところで、何世紀もかけて鍛えられたこの「衝突処理装置」を即席で再現できるわけではない。

　法を資源と見るとき、注目すべきは内容だけではない。法はプロセスである。立法、行政、司法、そして手続保障。リーガル・アラインメントが示唆するのは、AIに「正しい答え」を埋め込むというより、AIが不確実性の中で裁量を行使する際に、どのような手続と理由付けを要求するか、という統治技術の移植である〔1〕。AIを良い子にするよりも、説明できる公務員に近づける発想といってよい。

　加えて、法を外部制約としてだけでなく内部仕様として読むと、AIに必要なのは単なる禁止リストではなく、権限付与と統制のセットであることが見えてくる。法は、してはならないこと以上に、してよいことの範囲（権限）と、その行使条件（手続）を細かく設計してきた。リーガル・アラインメントは、ここを拾えるかが勝負である。

3　リーガル・アラインメントの三つの経路

　Koltらは、リーガル・アラインメントを三つの方向で構想する〔1〕。

　第一は、法規範の内容をアラインメントのターゲットにすることである。AIが広告を作るなら虚偽表示を避ける、コードを書いても不正アクセスに加担しない、という具合に、人がやれば違法なことをAIにもさせない設計を志向する。ここまでは直感的だが、直ちに「どの法域に合わせるのか」という問いが立つ。法令遵守は一枚岩ではなく、法域ごとに要件も例外も異なるからである〔1〕。

　第二は、法解釈・法理論を、AIの推論様式のガイドとして用いることである。法は、曖昧な文言を、先例、解釈準則、立法目的、制度趣旨等の「参照してよい材料」によって拘束する。AIの安全仕様も自然言語で書かれる以上、曖昧さは宿命である。ならば、曖昧さを処理するための既存の技法、典型は解釈学である、をAIの推論に組み込む、という発想になる〔1〕。

　第三は、法概念・法制度を、構造的な青写真として使うことである。AIは典型的なプリンシパル＝エージェント問題を抱える。代理、受任、忠実義務、権限の限界、監督義務、こうした法の部品は、権限委譲と統制の失敗を何度も経験した人類の事故報告書から抽出された設計知である。リーガル・アラインメントは、これらをAIエージェントの設計語彙として再利用しようとする〔1〕。SF的にいえば、法律は社会が書いたOSのカーネルに近い。

4　どの法に合わせるのか　法域選択と更新の難しさ

　リーガル・アラインメントを現実のシステムに落とす瞬間、最大の難所は法域の選択である。生成AIは国境を軽く飛び越え、同じモデルが多法域に同時に展開される。他方で法はローカルであり、しかも、同じ行為でも、表現規制、消費者保護、個人情報保護、競争法、知財等、複数の法領域が同時に絡むことが多い。したがって一番厳しい法に合わせればよいと言いたくなるが、それは往々にして過剰制約（過度なブロッキング）となり、表現の自由や研究目的の利用を不当に萎縮させる〔1〕。

　ここで設計上の選択肢としては、例えば、(a)利用者の所在地等に応じて法的プロファイルを切り替える、(b)法域横断で共通する最低限の禁止（児童搾取や明白な詐欺等）だけをモデル内部に固定し、他は運用層で制御する、(c)法的に争いのある領域では「判断留保」や「専門家への接続」をデフォルトにする、といった分業が考えられる。しかし、いずれもコストが高い。法令は改正され、判例は蓄積され、行政解釈も揺れる。AIに法を食わせるとは、結局のところ、法律のバージョン管理をAIの内部に持ち込むことだからである〔1〕。

　加えて、法は条文に書かれていないことを多量に含む。解釈、慣行、裁量、衡量。したがって、リーガル・アラインメントは、単なるルールベース化では終わらない。どの資料を参照し、どう理由付けし、どの不確実性を誰に返すのか、この設計が、法を資源として使う場合の本体になる。

5　実装論としてのリーガル・アラインメント

　理念は美しいが、実装は泥臭い。Koltらは、(1)評価、(2)技術介入、(3)制度的枠組みの三点を挙げる〔1〕。

　第一に評価である。法令遵守は、単に「違法行為を直接しない」だけでは測れない。行為の前提事実の認定、法的に重要な事情の取捨選択、そしてグレーゾーンでの判断が絡む。したがって、ベンチマークだけでなく、専門家レビュー、エージェント的環境での行動評価、レッドチーミング等を組み合わせる必要がある〔1〕。逆にいえば、リーガル・アラインメントは、評価の設計を通じて「何が法的に重要か」を可視化する契機にもなる。

（参考）

　第二に技術介入である。学習データに法令・判例・ガイドラインを増やす、ポストトレーニングの仕様やプロンプトに遵法要件を埋め込む、入出力フィルタで違法行為を弾く、ツール利用に人間同様の権限制御をかける。選択肢は多いが、どれが頑健かは実証が要る〔1〕。この点で、法律家はしばしば「正しい規範」を語りたがるが、リーガル・アラインメントでは「正しい実験設計」を語る能力も試される。

　第三に制度である。現状、モデル仕様やシステムプロンプト、法域選択といった設計判断は外部から見えにくい。リーガル・アラインメントを社会実装するなら、一定の開示、第三者評価、事故報告、場合によっては安全ケース（safety case）的な説明責任が不可欠になる〔1〕。要するに、AIを「規制する」だけでなく、AIが「規制の文法で動く」ように設計し、その設計を検証可能にする制度が要る。

6　雑感

　リーガル・アラインメントは、アラインメント論争の中で珍しく地に足がついた野心を持つ。野心的なのは、法という巨大な社会制度を、AIの内部仕様に接続しようとする点である。地に足がついているのは、法を道徳の最終回答とみなさず、あくまで最低限の床として据える点である〔1〕。

　もっとも、法はしばしば不正義で、時に遅い。法に従うAIが、既存の不平等を増幅する危険もある。また、完全な遵法が常に望ましいわけでもない。人間社会は、軽微な違反を黙認し、緊急避難を認め、時に市民的不服従を歴史の推進力としてきた。リーガル・アラインメントが法の抵抗可能性（resistibility）をどこまで組み込めるかは、難問である〔1〕。AIに「法を破れ」と教えるのは怖いが、「絶対に破るな」と教えるのもまた怖い。いずれにせよ、恐怖は論点の目印である。

　結局、リーガル・アラインメントは、技術の内部に法を移植する試みというより、法と技術の境界面を再設計する試みである。AIが社会の隅々に浸透するほど、境界面は増える。境界面が増えるほど、そこでの説明と正当化のコストも増える。ならば、そのコストを「仕様の厚み」だけで支払うのではなく、「法のプロセス」と接続して分散させる。そういう発想が、この論文の一番の価値だと感じる。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。