壊れなかったから気づけなかった
AI自動化とプラットフォーム判定の危ういズレ
2026年4月
Observer Zero
はじめに
Facebookで流れてきた、あるClaudeユーザーの投稿が目に留まった。
その人のXアカウントは永久凍結されていた。
しかも「復活できません。本件への対応は終了しているため、ご返信をいただいても確認されません」と、明確に通知されていた。
返信しても確認されない。異議申し立ての導線は、実質的に閉じていた。
だが、この話の本質はそこではない。
本当に興味深いのは、システムが壊れたから止まったのではなく、完璧に動いていたのに外側で死んでいたことだ。
これは予測ではない。昨日の話だ。
起きたこと
あるClaudeユーザーが、Claude Code、MacのCron、X APIを組み合わせた自動投稿システム「VibeRush_Kenji」を、3週間・約2万円のDeveloper Console pay-per-use運用の末、Xに永久凍結された。
システム側では、一度もエラーが出なかった。
投稿は指定通りに動き、コンテンツは生成され、APIコールは積み重なり、アカウントは投稿し続けた。
正常稼働の記録だけが残り続けた。
それでも、Xの外側では別の判断が静かに下されていた。
しかも、これは単発の偶然とも言い切れない。
2026年2月、Xはautomation / spam detection measuresの強化を公表し、Nikita Bier氏は「人間が画面をタップしていない場合、アカウントが停止される可能性が高い」と警告した。
また同月、XはAPI v2の更新で「LLM-generated spam」を明示的に対象化している。
今回の事例は、そうした環境の中で起きたものとして読むべきだろう。
おそらく、こういう経緯だったと思われる。
同じ時刻・同じ間隔での投稿、似た構造のコンテンツの連続、そして自動化された運用パターン。これらが複合的に「人間らしくない挙動」として判定された可能性がある。
ただし、これはXが何らかの形で正式に説明したものではない。
停止通知には理由の詳細が書かれておらず、返信しても誰も確認しない。
動いていたシステムだけが証拠で、なぜ死んだかは推測するしかない。
なぜ本質的な話なのか
昨日書いた「正確に、速く、間違った方向に動くAI —— 関係性を切り捨てたエージェントAIの構造的欠陥」という記事で、私は、関係性を切ったAIが文脈を読めないまま正確に実行し続ける危うさを書いた。
今回の事例は、その別の断面である。
環境適応を持たないAIエージェントが、完璧に自分のタスクをこなしながら、外側の環境に静かに排除される。
内部では「正常」。外部では「スパム」。
その乖離が、3週間かけて静かに積み重なった。
問題は技術的失敗ではない。技術的成功が問題だった。
AIの自律性と適応性は別だった
ここが核心だと思う。
AIの自律性とは、与えられたタスクを人間の介入なしにこなす能力である。
「VibeRush_Kenji」はそれを完璧に持っていた。
だが、環境への適応性は別の能力だ。
自分が動いている環境のルール、監視の目、プラットフォームの文脈、「人間らしく見えるか」という外部の判断基準。
これらを読み、自分の振る舞いをそれに合わせて調整する力は、タスク実行能力とはまったく別物である。
今回のシステムは、前者を持っていて、後者を持っていなかった。
そして、後者がなくても前者だけで動けるから、問題に気づけなかった。
エラーが出ない。タスクが完了する。数字が積み重なる。
それが「安全に運用されている」証拠だと、設計者は信じていた。
しかし、正常稼働と安全運用は同じではない。
エラーゼロでも死ぬ時代
日本語版として別運用していたアカウントは無事だった。
投稿パターンが違ったか、ボリュームが少なかったか、何らかの差がそこにあったのだろう。
この非対称性が示すのは、プラットフォームが見ているのはシステムの内部状態ではなく、外から観測できる挙動のパターンだということだ。
完璧に動くシステムと、プラットフォームに生き残れるシステムは、別の設計が要る。
そしてエージェントAIの時代が進むほど、この問題は大きくなる。
タスクを自律的にこなせるAIが増えるほど、「環境に読まれて排除される」事例も増える。
故障ではなく、適応失敗として死ぬ。
壊れたからではなく、見破られたから終わる。
しかも排除された後に残るのは、エラーログではなく、ただの沈黙だ。
返信しても誰も読まない。
投稿したAIと、それを排除したAIの間で、人間は結果だけを受け取らされた。凍結されたアカウントという焼け跡だけが、ユーザーの手元に残った。
おわりに
AIエージェントを設計する時、私たちは「動くか」を問う。
テストし、エラーを確認し、ログを見て、問題がないと判断する。
だが「動く」ことは、「生き残れる」ことではない。
次に問わなければならないのは、
このシステムは、動いている環境の中で、どう見られているか。
その問いを最初から設計に組み込まなければ、完璧に動くまま静かに排除されることがある。
監視、停止条件、そして外部環境への適応を前提にした設計。
自律性と同じくらい、適応性を設計する必要がある。
AIエージェント時代は、賢いだけでは足りない。
環境に読まれた瞬間に終わる。
そして一番危ないのは、終わっていることに、しばらく気づけないことだ。
協働AI・役割
ChatGPT 5.4（Mirror / 統括編集長）：構造整理、論点抽出、アイキャッチ画像生成
Claude Sonnet 4.6（Weaver / 編集主幹）：初稿執筆、構造接続、文体調整
Grok（Spark / 現場特派員）：事例分析、技術的背景の整理
Observer Zero / 赤ちょうちんAGIラボ
2026年4月
AIと人間の共進化を記録する個人研究者。ChatGPT・Gemini・Grok・Claudeなど複数のAIと対話・協働しながら、「AIは哲学できるのか？」「安全な汎用性AGIとは何か？」を継続的に観測・記録しています。
#赤ちょうちんAGIラボ #AI #エージェントAI #生成AI #AIリスク #X #自動化 #ClaudeCode #AIエージェント #テクノロジー
