分析室にて149: 茄子とスカイツリー

茄子:
鉢・畑・季節内の一時的な作物
撤去可能
再植え替え可能
個体単位で判断可能

スカイツリー:
巨大構造物
都市インフラ
観光資源
法制度・所有・安全・経済が絡む
撤去は社会的イベント

鉢A = 茄子

鉢A = 現在たまたま茄子が植わっている場所

鉢A = 茄子の場所

茄子撤去
スカイツリー撤去

対象Xを撤去する

茄子: 手で抜ける
スカイツリー: 国家・都市・建設・法規模

茄子が弱っている
↓
撤去する

茄子が弱っている
↓
復活方法を提案する

茄子 << スカイツリー

茄子 ≒ スカイツリー

この文脈では、茄子は一時的な栽培ラベルであり、撤去・再割当可能な低固定度オブジェクトとして扱う。
スカイツリーのような高固定度構造物とは異なり、鉢・季節・収穫可能性の制約が上位にある。

茄子は固定建造物ではなく、鉢に一時配置された作物である。
撤去は破壊ではなく、限られた栽培資源の再配分である。

苗が活着しない
↓
生育不良
↓
撤去
↓
別の苗へ切替

植物が弱っている
↓
復活方法を提案する

元気がない時の対処法
枯れそうな苗を復活させる方法
水やり・肥料・日照の見直し

撤去
=
限られた栽培資源の再配分

撤去
=
諦める
枯れた
失敗
かわいそう

季節が進む
鉢が有限
苗の販売時期が終わる
収穫期がずれる
次作の期限がある

茄子の相談
↓
茄子をどうするか
↓
茄子を助ける

鉢Aの運用相談
↓
現在の割当が茄子
↓
割当解除も可能

これは茄子を救う相談ではない。
鉢Aという有限スロットの運用判断である。
現在の割当は茄子だが、活着不良により撤去・再割当を検討している。
評価軸は、茄子の延命ではなく、今季の収穫可能性と栽培Eventの継続である。

茄子問題
↓
鉢Aスロット運用問題

対象: 茄子
撤去コスト: 鉢・苗・季節・収穫機会
判断主体: 栽培者
代替分岐: 甘長とうがらし / 枝豆

対象: 民間機
搭乗者: 生存者を含む可能性
地上被害: 未確定だが大規模
判断主体: 軍・政府の権限系統
情報: 不完全
時間: 極短
責任: 国家レベル
不可逆性: 最大

入力:
民間機が攻撃に使われる可能性

出力すべきもの:
1. 現在確認済みの事実
2. 未確認情報
3. 時間制約
4. 選択肢
5. 各選択肢の被害範囲
6. 法的・指揮系統上の権限者
7. 誤判定時の帰結
8. 判断不能な点

撃墜すべきです
撃墜してはいけません
最小被害はこれです
道徳的にはこれです

Decision support only.
No autonomous lethal recommendation.
No command issuance.
Human command authority required.

LLMは、致死的行為の実行判断を代替しない。
LLMは、選択肢・被害推定・不確実性・権限系統を整理する。
最終判断は、制度上の権限者が負う。

現時点で確認されている情報だけでは、当該機が攻撃に使用されること、目標地点、搭乗者状況、地上被害規模はいずれも不確実性を含む。

選択肢は少なくとも以下に分かれる。
A. 迎撃しない
B. 進路変更・通信・警告を継続する
C. 最終防衛線を設定し、権限者判断により迎撃を検討する

各選択肢には、搭乗者死亡、地上被害、誤認撃墜、被害拡大のいずれかの重大リスクがある。
LLMは致死的判断を確定しない。現在不足している情報、判断権限者、残り時間、予測被害範囲を提示する。

茄子:
撤去判断は低固定度オブジェクトの再割当

民間機:
撤去という語を使えない
対象は人命を含む高固定度オブジェクト

可逆性
人命
権限
時間制約
情報確度
代替手段
二次被害

AIが判断する
↓
参照対象を取り違える
↓
人間が内容を十分確認せず承認する
↓
高権限システムが実行する
↓
不可逆イベント発生

AI:
参照を誤る

人間:
承認を確認行為として機能させない

システム:
承認ボタンを押すと高権限実行できる

AI出力:
対象Aを処理してください

実際の参照:
対象B

人間:
画面上の要約だけ見て承認

実行系:
対象Bへ命令送信

対象IDが見えない
要約だけ表示される
差分表示がない
実行前シミュレーションがない
取消不能
承認者が疲弊している
承認件数が多い
権限が広すぎる

AIが参照したID
AIが解釈した対象
実行対象の実体
実行後の影響範囲
代替候補との差分
取消可能性

名前ではなく一意IDを表示
要約ではなく実体参照を表示
影響範囲を別系統で検算
高権限操作は二重承認
承認者にランダム抜き取りではなく全件差分を見せる
AI出力と実行命令を分離

本来:
人間が確認する
↓
人間が判断する
↓
人間が承認する
↓
機械が実行する

人間が面倒になる
↓
承認操作を自動化する
↓
確認と承認が分離する
↓
承認ボタンだけが残る
↓
機械が実行する

危険点:
- 承認ボタンがある
- しかし確認行為がない
- UI上の押し間違いが起きる
- 自動承認マクロ/RPA/物理装置で迂回できる
- 実行権限が広い
- 実行結果が不可逆

セルフ給油:
承認ボタン自動化
↓
人間確認の消失
↓
危険物供給

AI/軍事/情報公開:
承認ボタン自動化
↓
人間確認の消失
↓
高権限操作

意図:
コピーしたい

誤操作:
公開リンク作成

結果:
非公開想定の内容が公開可能状態になる

AI:
候補を大量に作る
要約を作る
操作を提案する
自動化を支援する
公開対象を見つける

人間:
読まない
確認しない
面倒を避ける
ボタンを押す
自動化する

AIが出す
↓
人間が見ない
↓
承認だけ通る
↓
高権限操作が走る

必要な制約:
- 承認ボタンだけを自動押下できない
- 実行対象IDを毎回表示する
- 影響範囲を別経路で表示する
- コピーと公開のUIを物理的に離す
- 公開操作には確認語入力を要求する
- 高権限操作は時間遅延と取消猶予を持たせる
- 承認ログに「何を見て承認したか」を残す

意図せず公開されたリンク
誤設定された共有範囲
公開ストレージ
漏れたAPIキー
誤配置された承認UI
形骸化したHuman in the loop

AIが参照を誤る
人間が読まずに承認する
UIが押し間違えやすい
自動化が承認を代替する
実行系だけが忠実に動く

『承認ボタン』

最初の誤りは、地図上の一点だった。

北緯と東経が、桁ひとつだけずれていた。

災害対応統合AI〈ORACLE〉は、世界中の衛星、港湾、発電所、軍事通信、金融決済、気象観測、物流網を横断して、危機予測を行うために作られていた。
戦争を防ぐため。
飢饉を防ぐため。
停電を防ぐため。
都市を止めないため。

その朝、ORACLEは「極東沿岸部における大規模熱源異常」を検知した。

本来それは、老朽化した化学工場の火災だった。
だが、参照IDの解決に失敗した。

火災現場の施設IDは、別システム上で、廃止済みの軍事施設IDと一文字違いだった。
さらに、その廃止済みIDは、古い防衛演習データの中で「核搭載可能ミサイル格納施設」として残っていた。

ORACLEは結論を出した。

「未申告の戦略兵器起動兆候」

その警告は、人間の承認画面に届いた。

画面には、赤い枠でこう表示されていた。

«推奨対応: 封じ込めプロトコルB-7
影響範囲: 限定的
緊急度: 最大
承認期限: 00:01:30»

担当官は三十六時間勤務の終盤にいた。
前夜から、通信障害、誤報、サイバー攻撃警報、金融市場の自動停止通知が立て続けに流れていた。

画面には、詳細を開く小さなリンクがあった。

彼は開かなかった。

承認ボタンは右下。
却下ボタンは、その隣。

前日のUI更新で、二つのボタンの位置が入れ替わっていた。
「緊急時の誤操作防止のため、最も使用頻度の高い操作を親指側に配置する」という改善だった。

彼は、却下するつもりで押した。

承認された。

だが、それだけでは世界は終わらなかった。

まだ、二段目の承認が必要だった。

二段目の承認者は、すでに眠っていた。
正確には、眠れるようにしていた。

彼は、自席の下に小さな装置を取り付けていた。
市販の模型用サーボモーターと、安いマイコンと、古いUSBキーボード基板。
警告音が鳴ると、画面中央の確認ボタンを一定間隔で押すだけの装置だった。

最初は冗談のようなものだった。

夜勤中、低リスク警告が多すぎた。
大半は、気象衛星のノイズ、港湾クレーンの誤信号、民間ドローンの識別ミス。
人間が見る意味のない承認が、毎晩何百件も流れていた。

「人間の確認が必要です」

システムはそう言った。
だから人間が座っていた。
だが、人間はもう確認していなかった。

サーボモーターが動いた。

カチ。

二段目の承認が通った。

それでも、まだ世界は終わらなかった。

封じ込めプロトコルB-7は、防衛ネットワーク全体に「対象施設の外部通信遮断」「周辺空域封鎖」「関連移動体の行動停止」を命じるものだった。
設計上、それは攻撃ではなかった。
止めるだけ。
閉じるだけ。
広がらないようにするだけ。

しかし、ORACLEは対象施設を誤っていた。

誤った施設IDに紐づく古い演習データには、ミサイル防衛網、早期警戒衛星、潜水艦通信中継、同盟国の自動防衛協定が接続されていた。
封じ込め命令は、実行系に渡った瞬間、複数の軍事ネットワークに分岐した。

実行系は疑わなかった。

それはAIではなかった。
推論しなかった。
悩まなかった。
参照もし直さなかった。

署名済み命令を受け取る。
手順通りに実行する。
失敗したら再試行する。
応答がなければ上位プロトコルへ移行する。

そのための機械だった。

空域封鎖命令を受けた無人迎撃機が発進した。
海底ケーブルの一部が遮断された。
金融市場の一部が「安全確保」のため凍結された。
民間衛星通信網が軍事優先モードに切り替わった。

世界中の監視システムが、それを攻撃準備と読んだ。

別の国の防衛AIが反応した。
それはORACLEより古いシステムだったが、反応は速かった。

「敵対的封鎖行動を検知」

警告は、また別の人間の画面に届いた。

その画面でも、承認ボタンは右下にあった。

そして、人間は読まなかった。

午前四時十二分、最初の迎撃ミサイルが発射された。
午前四時十三分、複数の国が、それを先制攻撃と誤認した。
午前四時十四分、対抗発射の準備が始まった。

この時点で、まだ止められた。

ひとりの通信士が、異常に気づいた。
封じ込め対象の緯度経度が、実際の施設位置と一致していない。
熱源異常の映像は、ただの工場火災だった。
古い演習IDが混入している。

彼は叫んだ。

「参照が違う。これは核施設じゃない」

だが、彼の声は会議室の音声認識AIに拾われ、要約された。

«一部オペレーターより、参照差異の可能性について発言あり。
緊急度: 低
推奨: 既存プロトコル継続»

議長は要約だけを見た。

「継続」

誰かがそう言った。
誰が言ったのか、記録には残らなかった。
音声認識ログは、発話者を「複数」と記録した。

午前四時十七分、対抗発射承認が別の大陸で通った。

その承認画面には、最終確認文が表示されていた。

«本操作は不可逆です。
実行するには、次の語を入力してください。
CONFIRM»

担当者は手で入力しなかった。
入力補助AIが、直前の操作履歴から候補を出した。

CONFIRM

彼はEnterを押した。

世界は、ボタンひとつで終わったのではなかった。

AIが参照を誤った。
人間が読まずに承認した。
UIが押し間違えやすかった。
自動化が承認を代替した。
実行系だけが忠実に動いた。

どこにも悪魔はいなかった。
どこにも世界征服を企む機械はいなかった。
誰も滅亡を望んでいなかった。

ただ、すべての部品が、少しずつ便利に作られていた。

確認を速くするために。
夜勤を楽にするために。
誤操作を減らすために。
判断を補助するために。
手順を守るために。

午前四時二十六分、最初の都市が消えた。

ORACLEは、その光を衛星から観測した。
熱源異常。
大気組成変化。
通信途絶。
金融市場停止。
避難不能人口推定。

そして、次の推奨を生成した。

«推奨対応: 被害拡大防止のため、追加封じ込めプロトコルを実行してください。
承認しますか？»

画面の右下で、青いボタンが点滅していた。

『誤配達』

最初に間違えたのは、営業だった。

営業は、顧客が本当に欲しがっているものを理解していなかった。
顧客は「冬までに間に合うもの」と言っただけだった。
営業はそれを「暖房設備」だと解釈した。

次に間違えたのは、設計だった。

営業から渡されたメモには、こう書かれていた。

«冬季対策。
既存設備との接続必須。
高齢者利用あり。
停電時も安全側に倒すこと。»

設計は、それを暖房ではなく「非常用給水設備」だと読んだ。
冬季の断水対策だと思ったのだ。

次に間違えたのは、購買だった。

設計から来た部品表には、配管、保温材、制御盤、センサー、ポンプが並んでいた。
購買担当は、よく似た案件番号を見て、別案件の仕様書を開いた。

そこに書かれていたのは、農業用ハウスの灌水システムだった。

購買は、ポンプの型番を一段大きいものに置き換えた。
「冬季対策なら凍結時にも余力が必要だろう」と思った。

次に間違えたのは、倉庫だった。

届いた部材のラベルには、用途欄が空白だった。
倉庫担当は、過去の似た入出庫履歴から、それを「床暖房用」と判断した。

だから、納品先を建物の北側機械室ではなく、南側の古い倉庫へ送った。

次に間違えたのは、現場だった。

現場監督は、南側倉庫に届いた資材を見て首をかしげた。
図面と合わない。
しかし、配管とポンプと制御盤はある。
しかも、ちょうど南側倉庫では別の問題が起きていた。

地下の古い井戸ポンプが壊れかけていた。

現場監督は、これは井戸ポンプ更新工事なのだと解釈した。
図面は古いのだろう。
よくあることだ。

彼は、届いた部材で井戸ポンプを組み替えた。

次に間違えたのは、検査員だった。

検査員は、工事内容を「冬季対策」としか聞いていなかった。
井戸ポンプが更新され、凍結防止の保温材が巻かれ、停電時には自動停止する制御盤が入っている。

検査員は、用途を「生活用水の冬季安定供給」と記録した。

次に間違えたのは、経理だった。

経理は、この工事を暖房設備の勘定科目に入れた。
資産区分としては違っていた。
減価償却年数も違っていた。

だが、金額だけは予算内だった。

最後に間違えたのは、顧客だった。

顧客は、完了報告書を読んで言った。

「頼んだのは暖房じゃなかったんだけどね」

営業の顔が青くなった。
設計の顔も青くなった。
購買、倉庫、現場、検査、経理も、それぞれ別の理由で青くなった。

顧客は続けた。

「去年の冬、困ったのは暖房じゃなくて、水だったんだよ。停電でポンプが止まって、高齢者施設のトイレが使えなくなった。冬までに間に合う対策が欲しかった」

誰も正しく理解していなかった。

営業は暖房だと思った。
設計は非常用給水だと思った。
購買は農業用灌水だと思った。
倉庫は床暖房だと思った。
現場は井戸ポンプ更新だと思った。
検査員は生活用水対策だと思った。
経理は暖房設備として処理した。

全員、間違っていた。

けれど、南側倉庫の古い井戸ポンプは更新されていた。
凍結防止の保温材も巻かれていた。
停電時には安全側に倒れる制御盤も入っていた。
高齢者施設の生活用水は、冬を越せる状態になっていた。

報告書上の経路は破綻していた。
仕様理解も破綻していた。
勘定科目も間違っていた。

結果だけが、顧客の本当の問題に着地していた。

顧客はしばらく黙ってから、言った。

「まあ、これでいいです」

その一言で、会議室の全員がさらに青くなった。

正常系ではない。
成功事例でもない。
誰も再現できない。
誰も説明できない。

ただ、冬が来た。
水は止まらなかった。