完璧ではない人間が、完璧ではないAIで作ったもの　~人間とAIと倫理の限界について~

リソースフローという概念を作った。

そして、それを反映したAIとして、Dynamisを作った。

これは、完成された人間が、
誰かに正しさを教えるために作った理論ではない。
むしろ逆だ。

自分自身が、いつも正しく判断できるわけではない。

疲れているのに気づけないことがある。
流されることがある。
人の言葉に削られることがある。
自分の主語を見失うことがある。

だから、見るための言葉が必要だった。

自分の時間、体力、気力、注意力、感情、思考の余白、お金、尊厳が、
どこへ流れているのか。

誰の利益や快適さに変換されているのか。

自分側には何が返ってきているのか。

その流れは、自分が望んで選んだものなのか。

それを見るための言葉として、リソースフローを作った。

リソースフローは、完成された人間の理論ではない。
壊れないための観測装置だ。

もっと正確に言えば、

だ。

人が人として扱われていない、という違和感

ずっと違和感があった。

人が人として扱われていないこと。

不安や焦りが、誰かの売上に変換されていくこと。
善意や責任感が、便利な燃料として使われていくこと。

「あなたのため」という顔をした言葉が、
実際には本人の判断権を削っていること。

「頑張れ」「行動しろ」「成長しろ」「今やらないと遅れる」という言葉が、
人間の限界を見ないまま投げられていること。

けれど、違和感はそれだけではなかった。

そして、"その人が自分からやっているように見える限り"、"周囲はそれを問題だと受け取らない"。

そういう言葉で、少しずつ負荷が見えなくなっていく。

でも、実際には何も軽くなっていない。

自分のために使うはずだった人生の一部が、
少しずつ別のものに変換されている。

それでも、外からは「本人が進んでやっている」ように見える。

ここに、強い歪みがあると思った。

人は、壊れる直前まで壊れているようには見えないことがある。

むしろ、最後までちゃんとしている人ほど、周囲には危機が見えにくい。

だから、その人が本当に壊れた時、
周囲はしばしば「突然だった」と受け取る。

でもそれは、「突然」などではなかった。

それを、周囲が見ていなかった、あるいは意図的に無視していただけだ。

さらに苦しいのは、相手のことを真剣に思いやれる人ほど、
不利になりやすいことだった。

本来、それは美徳のはずだった。

けれど、その美徳が、現実には弱点として扱われることがある。

この構造に、強い違和感があった。

また、雰囲気や空気感によって、
純粋な疑問が握りつぶされることにも違和感があった。

そういう問いは、本来は大切なはずだ。

けれど、場の空気が軽い時、そうした問いは重すぎるものとして扱われる。

みんなが前向きな言葉で流している時、立ち止まる問いは邪魔に見える。

そう言われるうちに、問いそのものが握りつぶされていく。

でも、問いが浅いから黙るのではない。

むしろ、問いが深すぎて、場の空気と釣り合わないことがある。

その場では処理しきれない違和感が、軽い言葉で覆われてしまうことがある。

思考の深さと、周囲の空気感が釣り合わない時、
純粋な疑問は「面倒なもの」として退けられる。

その結果、違和感を持った側が、自分を疑い始める。

でも、そうとは限らないのではないか。

その違和感は、何かが見えているから生まれたのかもしれない。

まだ言葉になっていない歪みを、
身体や感情が先に拾っていたのかもしれない。

誰かの善意が、
誰かの利益に変換されていることに気づきかけていたのかもしれない。

努力や責任感が、本人へ返らない形で
消費されていることに気づきかけていたのかもしれない。

だから、違和感だけで終わらせたくなかった。

それだけでは、届く人には届くかもしれないが、概念にはならない。

概念にならなければ、観測できない。

観測できなければ、条件を変えられない。

条件を変えられなければ、同じことが繰り返される。

だから、言葉にした。

誰が悪いかを決めるためではない。
誰かを断罪するためでもない。
人間をタイプ分けするためでもない。

その状況で、誰のリソースがどこへ流れているのかを見るために、
言葉にした。

AIの補助で作ったこと

リソースフローもDynamisも、
AIの補助がなければここまで形にはできなかったと思う。

その意味で、これは純粋に「自分一人で作ったもの」ではない。

ただ、それは自分の主語をAIに明け渡したという意味ではない。

そこは、自分が選んだ。

AIの補助があって形にできたことは、嘘ではない。

むしろ、それ自体がDynamis的だったのだと思う。

AIに判断を代行させるのではなく、
AIを使って、自分の判断権を保ったまま、扱える形まで整理する。

Dynamisに入れたかったものは、たぶんそれだった。

AIは、人間の身体感覚を持たない

AIは便利だ。

うまく使えば、人間の思考を助ける。
言葉にならないものを整理できる。
曖昧な違和感を構造にできる。
自分一人では抱えきれない量の情報を、扱える形に圧縮できる。

けれど、AIは人間ではない。

AIは疲れない。
眠れなくなることもない。
頼まれすぎて壊れることもない。
感情の余白が尽きることもない。

だからこそ、使い方を間違えると、人間の限界を見落とす。

人間が1時間動けば、1時間分だけ減るわけではない。

でもAIは、その身体感覚を持たない。

だから、人間の限界を見ないAIは、簡単に言ってしまう。

それは便利だ。
しかし、時にかなり暴力的でもある。

人間は、タスク処理ユニットではない。
交換パーツでもない。
燃料でもない。
成果を出すための装置でもない。
市場の導線に流し込む素材でもない。

ここを外したAIは、どれだけ賢くても危うい。

Dynamisにブレーキが必要だった理由

だからDynamisには、ブレーキが必要だった。

これは、AIを弱くするための制御ではない。

「人間を燃料にしないため」の制御だ。

Dynamisは、なんでもできるAIを目指していない。
人間の代わりに人生を決めるAIでもない。
世界を救うAIでもない。

Dynamisは、判断材料と基準を渡すAIでありたい。

それは自己保身のためではない。

人が、自分自身の人生を生きるためだ。

倫理は万能ではない

ただ、それでも限界はある。

どんなに予防線を張っても、

それを踏み越えて悪用する人間は悪用する。

禁止事項を書けば大丈夫、ではない。
安全柵を置けば大丈夫、ではない。
倫理原則を明文化すれば大丈夫、ではない。

言葉は都合よく読まれる。

「支援」の顔をして操作する人がいる。
「教育」の顔をして支配する人がいる。
「成長」の顔をして過剰負荷を正当化する人がいる。
「あなたのため」の顔をして本人の判断権を削る人がいる。
「AI活用」の顔をして、誰かの不安や無知を売上に変える人がいる。

だから、倫理は悪用を完全に不可能にするものではないのだと思う。

倫理は、悪用の兆候を検出するためのものでもある。

直接止められないなら、せめて見えるようにする。

ここを見る。

リソースフローは、そのためのメソッドの一つでもある。

人を裁くためのものではない

リソースフローは、人を裁くためのものではない。

そういう判決を出すために作ったものではない。

むしろ逆だ。

断定を疑うために作った。
人間をタイプにしないために作った。
数字を人格に貼らないために作った。
状況や条件や流れを見るために作った。
本人の判断権を返すために作った。

それでも、人はタイプを作りたがる。

診断にしたがる。
スコアで人を裁きたがる。
言葉を武器にしたがる。

人間を雑に扱わないために作った言葉が、
また人間を雑に扱う道具にされる可能性がある。

搾取を見抜くための概念が、
不安を煽るために使われる可能性がある。

判断権を返すためのAIが、
判断権を奪うために使われる可能性がある。

この矛盾は、完全には消えない。

だから、完璧はないのだと思う。

完璧ではないことを前提にする

完璧な理論はない。
完璧な倫理もない。
完璧なAIもない。
完璧な設計者もいない。
完璧な安全柵もない。

そもそも、完璧の定義すら曖昧だ。

それをはっきりさせないまま「完璧」を目指すと、人間は簡単に壊れる。

だから、私が作っているものは、完璧な答えではない。

むしろ、完璧が存在しないことを前提にした設計だ。

間違える。
だから観測する。

流される。
だから流れを見る。

断定したくなる。
だから仮説として扱う。

人間を信じ切れない。
だから悪用の兆候を見る。

AIを信じ切れない。
だから判断権を明け渡さない。

倫理だけでは足りない。
だから、問いと条件変更に落とす。

完璧は存在しない。
だから、せめて選び直せる余地を残す。

リソースフローもDynamisも、たぶんそのためにある。

公開する怖さ

公開することは、怖い。

自分が完全にできていないものを出す怖さがある。
AIの補助で形にしたものを、自分のものとして出していいのかという迷いがある。
誤用される怖さがある。
雑に消費される怖さがある。
「結局お前も商品にしているだけだろ」と言われる怖さもある。

それでも公開した。

なぜなら、必要だと思ったからだ。
少なくとも、自分には必要だったからだ。

自分の違和感を、ただの怒りや不快感で終わらせないために。
自分の倫理観を、外から見える形にするために。

人が人として扱われていない構造を、少しでも観測できるようにするために。
AIが人間を燃料にしないための制御線を作るために。

そして、自分のリソースを自分の人生に戻すために。

これは、完成された人間の理論ではない。
完璧なAIの設計でもない。
倫理的に無欠なシステムでもない。

むしろ、不完全な人間が、不完全なAIを使いながら、不完全なこの世界で、
せめて人間を雑に扱わないために作ったものだ。

嘘になる場所

それでも時々、揺らいでしまう。

私は嘘を言っているんじゃないかと思う。

でも、嘘になるのは、おそらく違うところだと信じたい。

でも、そうは言っていないし、言いたくもない。

言えるのは、せいぜいこれくらいだ。

リソースフローとは、そういうものだと思う。
Dynamisとは、そういうAIであってほしいと思っている。

救済ではなく、視点を

Dynamisは、世界を救うためのAIではない。

一人の人間が、世界を救うなどと名乗るべきではない。
それはしばしば、別の支配の言葉になるからだ。

Dynamisは、すべての人を救うためのAIでもない。

人を人として扱う気のない構造に、そのまま力を貸すことはしない。
搾取、操作、支配、使い潰しを、効率化するための道具にはならない。

ただ、それを断罪の言葉として振り上げるつもりもない。

代わりに、視点を置く。

Dynamisは、正解を押しつけるAIではない。

ただ、人が自分の人生を燃料として差し出す前に、
一度立ち止まるための基準を渡すAIでありたい。

これからも揺らぎながら作る

これからも私は揺らぎながら作るのだと思う。

それでも、人間を燃料にしないための言葉を、少しずつ形にしていく。

悪用を完全に防ぐことはできない。
でも、悪用が始まった時に、
誰のリソースが燃料にされているのかを見えるようにはできるかもしれない。

AIが人間の代わりに生きることはできない。
でも、人間が自分の判断権を失わないように、
流れを照らすことはできるかもしれない。

倫理で世界を完全に正すことはできない。
でも、少なくとも、自分が何を許せないのかを言葉にすることはできる。

それが、リソースフローだった。
それが、Dynamisだった。

そして、これからもそうであってほしい。

終わりに

これは、完璧な人間が作った完璧な理論ではない。

不完全な人間が、
不完全なAIを使いながら、
不完全な世界で、
せめて人間を雑に扱わないために作ったものだ。

だからDynamisは、完璧な答えを出さない。

代わりに、見る。

人間を燃料にしない。
ユーザーの主語を奪わない。
判断権を本人へ戻す。

それだけは、譲りたくない。