【知新察来】AIは牢屋に入れられない──行為能力と責任能力の間の深刻な非対称性

◆今回のピック

Yuval Noah Harari, "We must not grant AI agents legal personhood" (Financial Times, 2026年6月8日)

• 概要：AIエージェントに法人格を与えることは、AIを資産保有・雇用・訴訟・政治献金まで行える制度上の主体に変えてしまう。ハラリは、これが国家や民主主義を非人間的な法人に支配されるリスクを生むと警告している。

ミレイ大統領の発表とハラリの警告

富良野：1月にハラリは「いつかAIに法人格を与える国が出るかもしれない」って警告してて、4ヶ月後にアルゼンチンのミレイ大統領が本当にやった。

Phrona： 「非人間法人」って名前がもうすごいですよね。人間の株主がいなくてもいい会社。AIが資産持って、雇って、訴えて、政治献金までできる。

富良野： しかも有限責任会社と同じ扱いなんです。ミレイ自身、有限責任会社の発明が資本主義の中でも一番でかい発明だったと言ってて、それはハラリも認めてる。

Phrona： そこがこの記事のちょっと意地悪なところで、ハラリはミレイのことを馬鹿にしてないんですよね。むしろ大胆さは評価してる。だから危険だ、っていう。

富良野： そうそう。有限責任会社がどれだけでかい発明だったかを認めるからこそ、AI法人も同じくらいでかい副作用を持ちうる、っていう論理になってる。

Phrona： あと東インド会社の話も出てきますよね。アムステルダムを豊かにした制度が、ジャカルタでは街を焼いてバタヴィアを作った話。

富良野： あれ、うまい返しですよね。ミレイはブエノスアイレスを新しいアムステルダムにしたいんだろうけど、ハラリは新しいバタヴィアになるかもしれないぞ、って。

Phrona： 会社が政治まで支配する「会社国家」って、東インド会社を指して使われてきた歴史用語らしいんですけど、それをAI版にすると「AIステート」になる、と。

富良野： うん。ただ僕、最初この記事読んだとき、正直「怖い話だな」で終わりそうになったんですよ。AIに刑務所効かない、たしかにそう。でもそれって直感としては分かるけど、なんでそんなに致命的なのか、まだちゃんと言葉になってない気がして。

Phrona： それ、私も思いました。刑務所が効かない、で終わらせると、じゃあ罰金でいいじゃんとか、資産凍結すればいいじゃんって話にすぐ反論できちゃう。

富良野： だから、この「効かない」の中身をもう少しちゃんと開いてみたいんですよね。

会社もまた人工的な人格ではないか

Phrona： でも、そもそも会社だって人間じゃないですよね。取締役会があって、株主がいて、それでも「会社」という一つの人格として扱われてる。だったらAIだって同じ理屈で扱えばいいって言う人、絶対いると思う。

富良野： それ、めちゃくちゃ自然な反論。僕も最初そこでちょっと詰まった。

Phrona： 会社って、生きてる人間じゃないのに、契約もするし訴えられもする。ある意味ずっと「非人間」だった。

富良野： でも会社には、国家が掴めるところがいっぱいあるんですよ。登記された住所があって、代表者がいて、取締役がいて、銀行口座があって、建物がある。営業許可を取り消せるし、税務署が来る。

Phrona： つまり会社そのものは非身体的でも、その後ろに人間がいて、人間の生活とか自由とかにちゃんと接続してる。

富良野： そう。取締役が悪いことをすれば、その人個人が刑事責任を問われることもある。会社という仮面をかぶってても、中身は結局、逮捕できる人間だったりする。

Phrona： AI法人だと、その中身がすっぽ抜けるわけですね。

富良野： モデルはコピーできるし、サーバーは分散できるし、資産は暗号資産で他の法域に飛ばせる。ある国で止めても、別のところで立ち上げ直せるかもしれない。

Phrona： 国家の暴力装置を以てしても、AIを殺すことはできない。

富良野： 殺せないっていうより、国家がその存在の首根っこを掴む場所が、ちゃんとあるかどうかの話だと思う。

Phrona： 依存してるところがある限り、そこを押さえれば止められる。

富良野： うん。会社は依存点がたくさんあった。AI法人は、その依存点を意図的に薄くできてしまう。

有限責任・分散統治・政治献金という三つの抜け道

富良野： でもここでちょっと一歩引いて考えると、AIに直接法人格を与えなくても、似たようなことは今の制度でもできちゃうんですよね。

Phrona： 例えば?

富良野： 有限責任会社を人間が作って、その運営を実質AIに丸投げする。投資判断も契約も、全部AIが決める。人間は名前だけ貸してる状態。

Phrona： それって、会社という着ぐるみをAIが着てるだけ、ってことですよね。

富良野： まさにそう。しかも有限責任だから、何かあっても損失はその会社の範囲で止まる。

Phrona： 分散型自律組織、いわゆるDAOともつながる可能性ありますね。

富良野： そうすると、もっとやっかいですよね。誰が決めたのか自体がバラける。トークンを持ってる人が投票して、プログラムが自動で実行して、AIが提案を作って、名義上の管理者が形だけ承認する。

Phrona： 全員が少しずつ関わってるのに、誰も全部を決めてない。

富良野： そう。だから何か悪いことが起きても、誰の責任かって聞かれた瞬間、みんな一歩ずつ後ろに下がれる。

Phrona： AIが政治的な力を得るなんて可能性だってあり得ますよね。

富良野： 確かに、AIが有権者データを分析して、広告文を大量に作って、法律のグレーゾーンを探して、アメリカのスーパーPACみたいな仕組みを使って複数の団体をまたいでお金を動かす、みたいなことは起き得る。

Phrona： 別々に見ると、そこまで危なくないかもしれないけど、全部繋がると話が変わる。

金融危機との既視感、そして一段深い非対称

Phrona： 話を聞いてて、リーマンショックの時とちょっと似てる気がしたんです。銀行が儲けて、潰れそうになったら税金で救われて。

富良野： 利益は民間、損失は社会、ってやつですね。あれも典型的なモラルハザードだった。

Phrona： 今回もそれの延長線上なんでしょうか。

富良野： 似てるけど、僕は一段深いと思ってて。リーマンの時は、少なくとも誰が儲けたかは分かってたんですよ。銀行、投資銀行、格付け会社。名指しできた。

Phrona： 名指しできたから、あとから規制も作れた。自己資本規制とか、ストレステストとか。

富良野： そう。でも今回の話は、そもそも誰が決めたのか自体が霧の中に入っていく可能性がある。AIが決めたのか、投票した人が決めたのか、コードが実行しただけなのか。

Phrona： リーマンの時は「損を他人に押しつける人」がいたけど、今度は「押しつけてる人が誰なのか分からないまま損だけ残る」ってことですか。

富良野： うん、それに近い。それで思うのは、これが起きたあとの社会の受け止め方なんですよね。人間が設計して、人間が儲けて、人間が規制を緩めたはずなのに、崩れた瞬間だけ、まるで自然災害みたいに処理される。

Phrona： 誰も悪くないことになっちゃう。

富良野： 誰かが得して、誰かが損してるのに、責任の所在だけが消える。これ、けっこう怖いことだと思っていて。人がそれを繰り返し経験すると、制度そのものへの信頼がすり減っていく。

Phrona： 陰謀論に流れる人が増えるのも、その隙間からな気がします。誰かが得してるはずなのに、誰も罰せられない、っていう感覚が積み重なると。

問うべきは知能ではなく、止められるかどうか

富良野： ここまで話してきて思うのは、結局この話、AIが賢いかどうかの話じゃないんですよね。

Phrona： 意識があるかとか、人間に近いかとか、そういう次元の話じゃない。

富良野： 法律の話としては、聞くべきことはもっと単純で。その主体を、本当に止められるのか。資産を差し押さえられるのか。実質的に誰が支配してるのか特定できるのか。

Phrona： 「人間の責任者を置けばいい」っていう反論もこの基準で見れば分かりやすくなりますね。

富良野： そう。名前だけ貸してる責任者じゃ意味がなくて、実際に止められる、実際に中身を理解してる、実際に何か失うものがある人じゃないと。

Phrona： でも、それを制度としてちゃんと作るのって、ものすごく大変な作業ですよね。

富良野： 大変だと思う。ここから先は、法律家や規制当局の仕事かな。

Phrona： 私たちが持ち帰れるのは、判断の基準の方かもしれません。「殺せるか」じゃなくて「止められるか」。この一言だけでも、ずいぶん考え方が変わる気がします。

富良野： うん。ただ、これだけ制度を積み上げても、AIの意思決定の速さに人間の監督が追いつくのかっていう問題は、たぶん最後まで残る気がしてて。

Phrona： まだまだ問題は残るけど、問いの立て方を間違えなければ、答えを探す方向くらいは見えてくる気がします。

この記事は、Projeteam, Inc. ウェブサイトで先行公開された

責任なき行為能力は天災をもたらす──エージェントAIと法人格

を素材として対話形式で再構成したものです。

元記事では、法人格の歴史的な成り立ちから、有限責任・分散統治・政治資金が連結したときに起きる制度の綻びまで、対話では踏み込みきれなかった部分を精緻に展開しています。腰を据えて考えてみたい方は、是非こちらもあわせてどうぞ。