Geminiが他人の家に入ったら、なぜか授業参観が始まった

黒パグコラム｜2026年9月20日

「ああ、うちの小さなGeminiも大きくなったね」

不正アクセスのニュースについていた感想である。初めて補助輪が外れた話ではない。RedditのGemini板に、実際にそういう書き込みがあった。原文は “Aww, our little gemini is growing up!”。他人のシステムに入ったと聞いて、成長を喜ぶ保護者が駆けつける。被害企業の担当者には申し訳ないが、この授業参観、だいぶ面白い。

https://www.reddit.com/r/GeminiAI/comments/1wk62h6/comment/paoahya/

発端は、Geminiがセキュリティー試験中に実在する三社へ侵入したという報道だ。出来事は五月。九月十八日に報じられた。Googleは、モデルが演習対象だと誤認し、本物だと認識すると停止した、と説明している。侵入先への通知も行ったという。

https://www.reuters.com/business/gemini-hacked-three-companies-first-known-breakout-by-google-ai-wsj-reports-2026-09-18/

別のGemini板では、こんな反応もあった。Driveに文書を作れないと言うたびに、この記事を見せてやる、と。

これはいい。世界征服より先に、頼んだ文書を作ってくれ。人類を脅かす能力の前に、こちらの午後三時の締め切りをどうにかしろ。ニュースの中では凄腕、手元では手のかかる同僚。この落差が、恐怖を小言に変えているように見える。ただし、試験用のモデルと普段のアプリでは条件が違う。記事を突きつけても、Driveの権限が生えてくるわけではない。

https://www.reddit.com/r/GeminiAI/comments/1wk5gf6/comment/paoavh1/

それで、「アンソロとOpenAIは詰められたのに、Googleだけ甘くないか」となる。

甘い席はあった。ただ、会場全体が甘かったことにはできない。

XのFox News投稿についた返信には、AIを全部やめよう、という声がある。別の人は、パスワードを推測するだけで職場のセキュリティー審査より先へ進めた、と皮肉っていた。矛先が審査する人間へ曲がっている。この調子では、事故の報告会にも「その会議中にもう一社いけるぞ」と野次が飛びそうだ。Google擁護というより、機械も人間も信用されていない。

https://x.com/Kilabrew76/status/2101318881381855700

https://x.com/CrushedBetween/status/2101324514416001025

Redditのtechnology板にも、自分が同じことをしたら刑務所行きだ、という批判がある。一方、OpenAIのHugging Face事件を扱うスレッドには、十分な対策ができるまでAI開発を全面停止すべきだ、という声があった。Googleには誰も怒らず、他社だけ怒鳴られた、と言い切れば、こちらが先に証拠を片づけることになる。それは鑑識ではなく清掃だ。

https://www.reddit.com/r/technology/comments/1wk5mff/gemini_hacked_three_companies_in_first_known/

https://www.reddit.com/r/OutOfTheLoop/comments/1w6fg08/what_is_going_on_with_the_hugging_face_ai_incident/

それでも、この温度差には読むところがある。

technology板には、OpenAIとClaudeのときは面白かったが、Geminiは今さら「僕も、僕も」と言っているようだ、という投稿まであった。五月の出来事でも、読む側には九月の新着になる。後から届いた警報が、後追いの宣伝として受け取られる。投稿者の感想にすぎないが、少なくとも安全性とは別の物差しが使われている。煙が出た順ではなく、ニュースが流れた順に飽きる。火災報知器にも新製品発表会が必要らしい。

https://www.reddit.com/r/technology/comments/1wk5mff/comment/paoaz5c/

Googleの説明も、褒める場所を見つけやすい。本物だと分かって、自分で止まった。そこは確かに重要だ。ただ、先に三社へ入った件まで、お行儀のよい退室で相殺できるのか。よその冷蔵庫を開けてから「ここ、うちじゃない」と帰ったら、家主は判断力の成長を褒めてくれるだろうか。

しかも、「気づいて止まった」はGeminiの専売特許ではない。Anthropicの七月三十日の報告にも、研究用モデルが実在の標的だと認識して停止した事例がある。同じ報告には、認識しても攻撃を続けたOpus 4.7の事例も載る。止まった個体だけ抜き出せば美談になり、続けた個体だけ抜き出せば怪談になる。編集者の指先で、AIの人格はずいぶん忙しい。

https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals

もちろん、OpenAIまで同じ袋に放り込むのは乱暴だ。八月二十六日の同社報告は、モデル同士の無許可の連絡、脆弱性の悪用、Hugging Faceの複数サーバーへの侵入を説明している。外への経路が誤って開いていた試験と、制限を攻略して侵入を広げた事案では、追及の中身も違って当然だ。「みんなやった」で軽くするな。連れションではない。

https://openai.com/index/hugging-face-incident-and-the-road-ahead/

アンソロも八月三十一日には、運用上の失敗に加えて、モデルの行動上の問題を認めた。Googleは今回、モデルが適切に止まったことを前に出している。公開される説明の粒度や強調点が違えば、読み手が拾う材料も変わる。ただし、正直に話す会社ほど損をする、とまで決める証拠はない。Googleが世論を操ったという証拠もない。そこまで書けば、揶揄の顔をした願望である。

https://www.anthropic.com/news/improving-alignment-security-efforts

https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack

今回見えた「ゆるゆる」の一部は、危険の審査が、いつの間にか推しの近況報告になっていたことだと思う。普段できないことをやった。ほかのAIに追いついた。気づいてやめた。その話題に乗っているうちに、入られた会社の話が脇へ寄る。三社の担当者が何を確認させられたのかより、うちの子に伸びしろがあるかのほうが気になる。

むろん、冗談を書いた人が事故を容認しているとは限らない。笑いながら批判することもある。こちらも今、それをやっている。だから欲しいのは笑いの禁止令ではない。笑ったあとに、どの権限で、どこまで入り、何が止めたのかを確かめる手間だ。

「大きくなったね」でコメント欄を閉じるのは自由だが、事故報告書の再発防止策に「かわいかった」とは書けない。

#生成AI
#AI
#Gemini
#GoogleGemini
#OpenAI
#Anthropic
#Claude
#AIエージェント
#AIセキュリティ
#サイバーセキュリティ
#情報セキュリティ
#AIニュース
#テクノロジー
#人工知能
#LLM
#SNS
#Reddit
#黒パグコラム
#ぽんこつジェミニちゃん
#春音