人類はルビコン川を渡ったのか？

スマート化する戦争

人はより遠くから感情を交えず攻撃できる兵器を求めてきた。
刀から弓矢、銃、ミサイル、そしてドローン兵器。
物理的な距離が離れれば安全確保の為だけでなく、相手の顔が見えなくなり心理的な負荷は減る。
AI兵器もその延長戦上にあるのか？
そこには断固として違うと反論する。

主体の消失

人が操作するドローンと、自立型AI兵器との間には決定的な差がある。
文明論的にも、倫理的にも、技術的にも、まったく別のレイヤーに属している。

それは、誰が引き金を引くかという主体性の問題だ。どれだけ距離が離れても、最終判断は人間が行っていた。
ドローンのパイロットが、どんなに安全な基地のモニター越しに作戦を遂行しても、高い確率でPTSDを発症することが分かっている。
そこには、確実に良心の痛みが存在する。
これが、人間の心の限界。

そして、どれほど距離が離れていても、これまでの戦争には
「人間が判断し、人間が責任を負う」
という主体性が存在していた。
良心の痛みとは、人間が殺戮という行為を自らの手で引き受けている証左であり、判断と責任が結びついていた最後の絆だった。

人を殺す事を機械にアウトソーシングする意味

でも、完全自立型AI兵器は違う。
AIは目標を、人間として認識している訳ではない。
カメラが捉えたピクセルの集合体や、熱源のシグナル、動きのベクトル、
物体分類の確率値、つまり只のデータとして扱う。
それらをアルゴリズムで計算し、最も効率的で最も迅速に、最も確率的な正しい方法で処理をする。
そこに感情や躊躇い罪悪感、倫理的葛藤が入る余地はない。

止まれない生存競争とルール作りの遅れ

国連軍縮部門は「AIに人間を標的にさせるべきではない」と警告し、
国際ルール作りを訴えていますが、開発の競争が先行しており、足並みは揃っていない。
ひとたび片方の陣営が、良心の痛みを伴わず、人間には不可能な処理速度と効率で殺戮を行うシステムを実戦投入してしまえば、もう片方の陣営も、
自国の生存のために全く同じシステム、あるいはそれ以上のシステムを導入せざるを得なくなる。
そこに倫理的なためらいや、立ち止まって議論する猶予は一切ない。

生物学的プロテクトの喪失

生物学的ハードウェアに刻まれた良心の痛みは、最終プロテクトだったのかもしれない。
このプロテクトが、戦争のスピードと規模を抑える最後のブレーキだった。
このプロテクトを人類はAIによりついに解除してしまったのか？
この“プロテクト喪失後の世界”をどう再構成するのか