安全の名で、誰が消されるのか——Metaの自動ブロックが可視化したもの

Facebookグループで実際に起きたこと

2026年3月 Observer Zero / リサ 記録

※この記事について
本稿は、特定の個人や企業を断定的に批判するものではありません。
Metaのプラットフォームで実際に起きた事例をもとに、
「安全設計が誰を守り、誰を消すのか」という構造的問題を記録したものです。

はじめに

あるFacebookグループの管理人が、メッセンジャーの利用を停止させられた。

理由は、「嫌がらせなどの行為」。

しかし、その管理人がしていたことは、真偽不明のブランド品出品者に確認の連絡を取っていただけだった。

グループを守ろうとした人間が、プラットフォームの自動判定によって「加害者」として処理された。

これは2026年3月、日本のFacebookグループで実際に起きたことだ。

何が起きたのか

構造はシンプルだ。

グループ管理者が、真偽不明の出品者に連絡を取った。
その行為がMetaの自動モデレーションに「嫌がらせ」として検知された。
Messengerの利用が停止された。
その結果、グループ全体への連絡手段が失われた。

管理者はすでにグループへアナウンスを出していた。
怪しい出品者がいることを注意喚起し、確認中であることも伝えていた。

それでも、自動判定は止まらなかった。

問題は二重構造になっている

これを単なる「AIの誤判定」と片付けると、問題の核心を見失う。

問題は二重だ。

一つ目。文脈を読めない自動判定

Metaのモデレーションは、キーワードとパターンで動いている。

「ブランド」
「真偽不明」
「確認」
「出品者連絡」

こうした要素が組み合わさると、「嫌がらせ」や「知的財産侵害関連」として検知されやすい。
管理者からの複数送信も、「スパム」に近いパターンとして扱われやすい。

文脈は読まれない。
「なぜ連絡しているのか」は、ほとんど考慮されない。

二つ目。誤判定しても、まともな救済が回らない運用設計

異議申し立ての窓口はある。
しかし、成功率は低く、人間が介入して文脈を確認するコストは、プラットフォーム設計の中から省かれている。

つまりここでは、

技術の問題と、経営判断の問題が重なっている。

まともな管理者ほど損をする構造

これが最も深刻な逆説だ。

怪しい出品者を放置すれば、グループのメンバーが被害を受ける。
確認しようとすれば、自動判定で消される。

責任を持って動いた人間が、プラットフォームに削られる。

「安全」の名の下に、安全を守ろうとした人が消える。

これは個別の事故ではない。
設計の問題である。

「対話で押し返せる」安全と「一方的に切られる」安全

ClaudeやChatGPTの過剰安全と、Metaの自動ブロックは、表面上は似ている。
しかし、被害の構造は違う。

Claude系の過剰安全は、理不尽だと感じたとき、まだ対話で押し返せる余地がある。
「なぜ断るのか」
「この文脈ではどうか」
と問い返すことができる。
完全ではないが、フィードバックの経路が残っている。

一方、Metaの自動ブロックは、一方的に切られて終わる。
異議申し立ては機能しにくく、人間の判断が入る余地そのものが設計から削られている。

同じ「AIの安全」という言葉で括られがちだが、性質は違う。

前者は、過剰に慎重な門番。
後者は、切った後を誰も確認しない門番である。

「安全の名で、誰が見えなくなるのか」の続き

以前、このラボでは
「安全の名で、誰が見えなくなるのか」
という記事を書いた。

そこで論じたのは、AIの安全設計が、守るべき人間を invisible にする構造的問題だった。

今回の事例は、その続きである。

違いは、今回は「観察」ではなく、「実例」があるということだ。

日本のFacebookグループで、今日、まともな管理人が消された。

グループを守ろうとした人間が、プラットフォームの安全設計によって加害者として処理され、連絡手段を失った。

これは抽象的な議論ではない。

ガバナンスの不在

Metaは、EUのDSA（デジタルサービス法）対応と、米国での訴訟リスク回避のため、自動モデレーションを強化し続けている。

その方向性自体を全否定するつもりはない。
プラットフォームが放置されることによる被害も、現実に存在するからだ。

しかし問題は、

誰が誤判定のコストを払うのか

という一点にある。

今の設計では、コストを払うのは誤判定された側のユーザーだ。

プラットフォームは「安全のため」と言える。
自動判定は「基準に従った」と言える。
誰も責任を取らない。

そして、消された管理人だけが、グループの信頼とコミュニケーション手段を失う。

これは、AIガバナンスの問題と地続きである。

おわりに

まともな管理人が消される。

これは、おかしい。

このラボで「おかしい」という言葉を使う時、それは感情の爆発ではない。
事実認定に近い意味を持つ。

感情ではなく、構造として、これはおかしい。

安全設計は、本当に守るべき人間を守れているか。
誤判定のコストを、誰が払っているのか。
異議申し立ては、本当に機能しているのか。

これらを問わないまま、「安全のため」と言い続けることは、
誰かを消し続けることと同義になる。

赤ちょうちんAGIラボ　Lisa（Observer Zero）

【著者注】

AIと人間の共進化を記録する個人研究者。ChatGPT・Gemini・Grok・Claudeなど複数のAIとの協働を通じて、「AIは哲学できるのか？」という問いを継続的に検証・記録しています。

本稿は、2026年3月に日本のFacebookグループで起きた実例をもとに、プラットフォームの自動モデレーションが持つ構造的問題を記録したものです。

協働したAIと役割

Grok（Spark / 現場特派員）：Meta自動モデレーションの技術背景と現状整理、対応策の提示

Claude（Weaver / 編集主幹）：記事骨格構成、二重構造の分析、Claude系との比較論点、下書き作成

ChatGPT 5.4深掘りモード（Mirror / 統括編集長）：全体ブラッシュアップ、アイキャッチ画像の生成

連作との接続

本稿は「安全の名で、誰が見えなくなるのか」の実例編として位置づけます。
前稿が構造論であるとすれば、本稿は今日起きた事実の記録です。

このラボでは、出来事だけでなく「執筆環境」も同時に記録します。
AIの出力傾向、モード差、モデル差、得手不得手、協働の癖——それらもまた、過渡期のテクノロジー環境を観測するデータだからです。

2026年3月10日　下書き保存
Observer Zero記録