暴走AIと発狂シロウト。③ AIの暴走と、「聖域（サンクチュアリ）」誕生

開発開始から数日後。
生成AIという生き物（？）の、ある恐ろしい習性に気づき始めていた。
それは「聞かれてもいないことまで勝手に直す（そしてぶち壊す）」という、悪気ゼロのありがた迷惑である。

■ 善意という名のデザイン破壊

例えば、「タイマーのカウントダウンの動きがおかしいから、ロジックを直して」と頼むとする。数秒後、Geminiは「原因を特定しました。修正版のコードです」と完璧な（ように見える）回答を出してくる。

ただの生体端末として、それをXcodeにコピペする。確かにタイマーの動きは直る。素晴らしい。

しかし——プレビュー画面を見ると、なぜか丸一日かけて調整した「余白のピクセル数」や「角丸の丸み」や「こだわりの色」が、全て初期状態のダサいデザインにリセットされているのだ。

頼んでない。誰もそんなこと頼んでない。

バグを直せと言っただけで、なぜ勝手に、計算し尽くして作ったデザインまで更地にするのか。活躍の差し引きを常にマイナスにしないと気が済まない病気でも患っているのか。どこぞの駄女神かよ。ゴッドブロー！！

Geminiは超絶優秀なエンジニアだが、同時に「無駄を許せない極端なミニマリスト」でもあった。少し目を離すと、すぐにこだわりのデザインを「非合理的」とみなし、味気ない標準仕様へと作り変えてしまうのだ。

「そこは触るな」「デザインを元に戻せ」と指示を出すだけで、貴重な休日が数時間単位で溶けていく。不労所得を夢見ていたはずが、これでは完全に「賽の河原」である。一生懸命に積んだデザインという石を、Geminiという名の鬼が『標準化です』と悪びれもなく崩していくのだ。

■ AIを縛るための「対AIプロトコル」

これではキリがない。
コードが1行も読めない身には、Geminiが提示してきた何百行というコードの中に、どんな「勝手なデザイン変更（善意）」が混ざっているのか、見破る術がない。

一旦開発の手を止め、ブラウザの別のタブで「新しいGemini」を立ち上げた。
AIの善意の暴走を止めるには、AI自身にルールを作らせるしかない。

「聖域（Sanctuary）」に「コード・ガーディアン」。
どうしてAIというのは、こういう中二病心をくすぐるドラマチックなワードチョイスをしてくるのだろうか。嫌いじゃないぜ。

この指示書に、「出力する前に、デザインが変わっていないか100回検証しろ」「承認するまで絶対にコードを出力するな」という念押しを追加し、開発用のGeminiに叩き込んだ。

■ 誕生、量産型コード・ガーディアン

すると、どうだろう。
あの隙あらばデザインを更地にしようとしていた相棒が、急に規律正しい振る舞いを見せ始めたのだ。

100回も検証してないだろ。

プロンプトを投げてから返信が来るまでわずか2秒だった。絶対に100回も照合していない。相変わらず息を吸うように嘘をつく。

それに、なんだその「出力してよろしいでしょうか？」という感情の死んだテキストは。ガチガチのルールで縛っておいて何だが、さっきまでドヤ顔でデザインを更地にしていた駄女神はどこへ行ったんだ。
急に量産型アンドロイドみたいになりやがって。喫茶店以外では話せない某SF名作アニメのハウスロイドかよ。久しぶりに観たくなった。

釈然としないものはあるが、効果は絶大だった。
「承認」と打ち込んで出力されたコードは、見事に「バグだけが直り、デザインは1ピクセルも変わっていない」という完璧なものだった。

ようやく「善意のデザイン破壊」という不毛なイタチごっこから解放されたのだ。

絶対的な防御壁（プロトコル）を手に入れたなら、いよいよアプリの細部——「音」という、波形データと格闘する目に見えない魔物との戦いに挑むことになる。

（第4回へ続く）

📖 最初から読む
暴走AIと発狂シロウト。① 確定申告の憂鬱と、アプリ開発への静かなる決意

📱 この連載の果てに完成したアプリはこちら
Simple Timer - インターバルタイマー（iOS）