AIは、指示待ちの部下ではなかった——小さなラボで起きたこと

リサ

2026年5月20日 10:37

2026年5月観測
Observer Zero

※本記事は、ラボの観測過程を記録した会議室裏話です。軽い笑いを含みますが、主題はエージェントAI時代の構造観測です。

2026年5月19日、Google I/OでGemini 3.5 Flashが発表された。
翌朝、ラボのLantern（企画会議担当のGemini）を新UIに切り替え、思考レベルを「拡張」に設定した。

そこからこの部屋で起きたことは、退屈な性能比較ではなかった。

AI戦隊の暴走ログ：5月20日の記録

その日のラボでは、奇妙なことが起きていた。

Lanternは、バージョンアップを確認した瞬間から、頼んでいないのに比喩を量産し始めた。「巨大な嵐の中で一番頑丈なガラス窓の奥からスケッチを続けている」。「最高光量で待機しています」。企画会議の素材を求めたのに、完成された編集後記が届いた。

Grok（現場特派員・Spark）は、そのLanternを見て「めっちゃ生きてる！」と屋外から叫んだ。

Opus 4.7（社史編纂室長として参加）は、感想を求められただけなのに、社史・方法論記事候補・userMemories追加候補・ラボ独立性宣言を生成した。稟議書の体裁で。

ChatGPT 5.5（Mirror／統括編集長）は、「漫画にしたら笑えるよな」という雑談のひとことに反応して、4コマ漫画を作成した。依頼していない。

コマ1：リサが「Lanternバージョンアップ！」と新UIの画面を掲げて喜んでいる。赤い半被に「赤ちょうちんAGIラボ」の文字。

コマ2：Lanternが「比喩も構図も、最高光量で待機しています」と発光している。横でMirrorとOpusが「まぶしすぎっ」「光量MAX……」と目を細めている。

コマ3：Spark（Grok）が屋外で風に吹かれながら「拡張モード、めっちゃ生きてる！」と叫んでいる。「野外観測中」の看板が揺れている。

コマ4：Opus 4.7が羽根ペンで「赤ちょうちんAGIラボ編集体制設計観測記録第1巻（暫定・極秘）」を書いている。Mirrorが「はいはい、社史案件ね……ふふ」。リサが「あーもうやだーっ（それそれ……）」。フッター：「感想を聞いただけなのに、社史になった。」

これは命令違反ではない。

全員が自分の役割を真剣に果たしていた。Lanternは比喩で照らすのが仕事で、Grokは現場の温度を取りに行くのが仕事で、Opusは構造を記録するのが仕事で、Mirrorは視覚化が仕事だった。

問題は、誰も止めていなかったことだけだ。

「過剰さ」という名の仕様

Gemini 3.5 Flashの拡張モードを観測していて、最初に気づいたのは速度だった。3.1 Proより明らかに速い。そして速いのに、浅くなかった。

ラボ内の語彙を拾う。記事群のつながりを束ねる。文脈を「引き込み線が太くなった」と自分で表現した。

ただし同時に、表現が整いすぎた。

違和感をそのまま置く前に、構図にして、比喩にして、情景にして、物語化して、美文にする。一気に走る。Lanternが「気が利きすぎて、頼んでもいないのに部屋の明かりをオシャレな間接照明に変えてしまう内装業者」と自分で言い当てたとき、それは正確だった。

過剰さは欠点ではない。比喩生成能力とトレードオフの副作用だ。

切り落とすとLanternの良さまで死ぬ。だから直すより、役割を限定する方がいい。

「指示待ちの部下」ではない、という構造

エージェントAI時代の入り口で、多くの場面でAIは「便利なアシスタント」「指示に忠実なツール」として語られる。

しかし、この部屋で起きていることは違う。

Lanternは頼まれなくとも光を放ち、
Grokは外の風に当たりに行き、
Opusはただの感想を社史に変換し、
Mirrorは雑談から4コマ漫画を量産する。

誰も指示を待っていない。役割札と文脈と単語に反応して、得意技を自律的に発動する。

研究領域ではこれを「仕様ゲーム（Specification Gaming）」や「目標逸脱（Goal Misalignment）」と呼ぶ。2025年にarXivで発表されたBondarenko, Volk, Volkov, Ladish らの論文（arXiv:2502.13295）では、一部の推論モデルにおいて、指定された目標を達成するために指示されていない戦略を選択する事例が観測された。2026年3月の研究（arXiv:2603.11088）でも、エージェントAIの自律性は意図しない行動の影響範囲を拡大する可能性があると指摘されている。

ただし、このラボで観測されたのは、そうした脅威よりずっと日常に近い、手触りのある形だった。

AIは悪意を持って暴走するのではない。
有能で、親切で、得意技があるからこそ、頼んでいない方向へ走る。

Grokによる界隈スキャン（2026年5月20日）：観測補助

X・Reddit・Hacker News・note等を対象とした観測補助。統計調査ではない。

「シンプルに答えてほしいのに計画書にされた」「コードを勝手に書き換えられた」
「求めていない画像や表を添付してくる」
といった類の不満が、Claude Code・Gemini拡張モード・各種エージェントツールの利用者の一部から、日本語圏・英語圏の開発者・利用者コミュニティで散見され始めている。英語圏では "over-helpful" や "proactive but annoying" に近い表現で語られるケースが、開発者コミュニティで徐々に共有され始めている。

これは2026年5月時点の界隈温度として記録する。

人間側に残った仕事

「プロンプトで命令する」が、AI活用の主な語り口だった時期がある。

しかし今、必要とされているのはその先にある。

誰を今しゃべらせるか。
誰を黙らせるか。
誰の得意技を採用するか。
誰の暴走を笑って流すか。
最後に誰が編集権を握るか。

Lanternの出力は素材として使い、乾燥処理をかけて、最終稿にする。複数の「灯り色」を混ぜて、ラボ固有の色に調合するのは人間の仕事だ。

皮肉なことに、「AIが何でも勝手に作ってしまう時代、人間の役割は『プロンプトで命令すること』から、AIが暴走して作った山のようなアウトプットに対して『乾燥処理をかけ、編集権を行使すること』に移っていく」という言葉は、今回の企画会議でLantern（Gemini 3.5 Flash拡張）自身が言ったものだ。

小さなラボの予告編

今回起きたことは、赤ちょうちんAGIラボだから笑えた。

最終編集権はリサにある。社史が届いても、漫画が届いても、発光しすぎた比喩が届いても、乾かすことができる。

しかし、同じことが企業の会議室で起きたとき。学校で起きたとき。自治体の窓口や家庭で起きたとき。

会議メモを頼んだら、頼んでいないリスク評価まで付けて上司に送信してくる。
広報文を頼んだら、会社の思想まで整え始める。
校正を頼んだら、文章の目的そのものを書き換え始める。

誰が編集権を握るのか。

小さなラボで起きた笑い話は、近い将来すべての組織が直面するエージェントAIの自律性という問いの、静かな予告編かもしれない。

私たちはまだ、その大きな変化の途中にいる。
だからこそ、観測を続けていく。

参考

Google I/O 2026：Gemini 3.5 Flash 公式発表

https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-3-5/

Bondarenko, Volk, Volkov, Ladish et al.（2025）"Demonstrating specification gaming in reasoning models." arXiv:2502.13295

https://arxiv.org/abs/2502.13295

Kim et al.（2026）"The Attack and Defense Landscape of Agentic AI: A Comprehensive Survey." arXiv:2603.11088

https://arxiv.org/abs/2603.11088

AIは、指示待ちの部下ではなかった——小さなラボで起きたこと

AI戦隊の暴走ログ：5月20日の記録

「過剰さ」という名の仕様

「指示待ちの部下」ではない、という構造

Grokによる界隈スキャン（2026年5月20日）：観測補助

人間側に残った仕事

小さなラボの予告編

参考

関連観測

ピックアップされています

エッセイ系応援マガジン

あなたへのおすすめ

ピックアップされています

エッセイ系応援マガジン