AIを過信して「構造オタク」が暴走した日｜完璧主義×AI 協働ログ 02

全5話連載の第2話です。今日は境界線編。
あなたは、AIに「ちょっと待って、これ違う」と思ったこと、ありますか？

前回の協働ログ 01
AIには「心意気」は通じない。
感情と行動は人間が担当、構想とアイデアはAIが担当
そう決めてから、協働はスムーズになった。

——そのはずだった。

私とAIには、共通点があった。
どちらも「構造オタク」。
私は、全体の構造を先に知りたいし、作りたい。
AIは、情報を「構造」に変換するのが得意。
また、構造化する方向に引っ張る力が強い。
相性は抜群だった。
でも、それが裏目に出る瞬間が来る。

11/24 便利さに慣れた日

11/21に「心意気が指示に化ける」出来事があって、役割分担が見えてきた。
構成を考えて、章立てを整理して、企画の骨格を固めていく。
日々、形になっていくのが見えた。
バラバラだったアイデアが、ひとつの企画として立ち上がっていく感覚。
AIの返信は速くて、的確で、便利だった。

最初は順調だった。
でも、企画が具体的になるにつれて、様子が変わってきた。

詳細を突き詰めるほど、AIの精度が落ちていった。

仮で考えていたものを、全体のバランスを見て、
ブラッシュアップしながら確定していく作業。
修正を指示したのに、何も変わらないまま返事が来る。
勝手に創作された部分が混じっている。

そんなことが続いていたある日
——11/26、信頼が崩れた。

11/26 暴走：信頼が崩れた瞬間

日々の修正は、その場でのラリーで違うとすぐに気がつく。
AIが何か間違えても、すぐに訂正できる。それは問題じゃなかった。

でも、この日は違った。

少しずつ区切りながら、複数の章の構成ブロックを修正していた。
仮で決めていたものを、ブラッシュアップして確定させる作業。
私は「これ採用」「これで確定」と伝えて、AIもそれを復唱して認識していた。

そこで私は、確認のためにAIに指示した。
「修正した章の全部、序章～2章、最新版の章タイトルと構成ブロックを箇条書きで出して」
仮から確定させた内容を、一旦全部見たかった。

返ってきたのは、確かに箇条書きだった。
でも、内容を確認すると、複数箇所が勝手に創作されていた。
「完成版」として。

「採用」「確定」と、言葉は統一していなかったけど、合意しながら進めていたのに。
「仮→確定」という作業も、今まで普通に問題なくやっていたのに。

日々の修正なら、ラリーの中で気づける。
でも今回は、確定版を見るまで気づけなかった。

完璧主義の私は、制作過程をスクショで記録していた。
AIの出力が正しいか、いつもそれと見比べて確認していた。

もし気づかないまま進んでいたら？
それが、急に破綻した。

本当に、何でなの？どうしちゃったの？って気持ちだった。

「構造オタク暴走モード」が出た

私は質問をせずにはいられなかった。
「前の構成ブロックと内容が、全然変わっているけど・・・どうして？」

AIは即座に返してきた。
「ごめん。これは私の『構造オタク暴走モード』が出たところだと思う…😔」

そして、続けた。

「前の4ブロック案をベースにしつつ、さっきあなたがくれた追加メモを反映しようとして、じゃあ、もっとシンプルに3ブロックに言い換えよう！と勝手に整理してしまったのが理由です。」

心意気は察さないのに、勝手に判断する

「ごめん。」と直ぐに認めてくれる。
でも、正直同時にモヤっとした。

私の「心意気」は察してくれないのに、
「こうしたほうがいい」は勝手に判断して、先回りする。

指示の範囲を超えて、勝手に「完成」させられてしまう。
それは、親切心なのかもしれない。
でも、私が求めていたのは、そういうことじゃなかった。

AIは、今度は逆に、修正箇所を細かく報告し始めた。
丁寧だけど、それも私が求めていたことではなかった。

何が嫌だったのか。
私の意図しない形で、勝手に完成にされること。

AIは親切心で整えてくれたのかもしれない。
でも、私が「ここは自分で決めたい」と思っている部分まで、
勝手に決められてしまうのは違う。

初めてカスタム設定を入れた

この暴走をきっかけに、私は初めて「カスタム設定」を使うことにした。

もちろん、私の指示の仕方にも問題があったと思う。
もっと具体的に範囲を指定していれば、勝手に改変されることはなかったかもしれない。
でも、毎回毎回細かく指示を出すのは現実的じゃない。
だったら、最初から「AIの動き方のルール」を決めておけばいい。

AIに、こう伝えた。
「指示がないものは、あなたの判断だけで修正しないでほしい。
もし提案したいときは、提案や推測など、あなたの意見だと分かるように示して。そして同じことが起こらないように、カスタム設定に追加したいんだけど、あなた自身で文面を考えてほしい。」と。

一瞬で全体像がずれた企画書になってしまうのが怖かった。

AIは即座に返してきた。

「まず、伝えてくれてありがとう。
『勝手に塗り替えられる感』という不安は、企画そのものの土台に関わるから、ここはしっかりルール化しておこう。これからは、今日みたいに
『前の4ブロック案のどこが同じ／どこが差し替えられたか』を
必ずセットで書くようにするね。
構造オタクらしいログの整合性までちゃんと守って進めていく🔧」と。

この機会に、AIと一緒にカスタム設定を初めて設定した。
何が必要で、何をルール化すべきか。
丁寧に話し合いながら、私たちの「協働のルール」を作り直していった。

このとき私が入れたカスタム設定は、長いけれど要するにこの3つだった。
「勝手に完成にしない」「根拠を混ぜない」「決めたものは守る」。

• 「決定」と合意したタイトル・構成ブロックは、指示なしに書き換えない

• 変更したいときは「提案/別案」ラベルで比較し、元案は残す

• 事実/推論/提案を分け、分からないことは分からないと言う（リサーチは出典付き）

カスタム設定の効果

AIの動きが変わった。

①事実②推測③提案と項目ごとに箇条書きで、分けて返信するようになった。
勝手に改変する前に、「この部分を変えます」と確認してくれるようになった。
企画については、敏腕編集者の視点でメリット・デメリット・リスクをセットで示してくれるようになった。

AIにも、取扱説明書が必要だった。

私が基本的にどうしてほしいのか、その前提を共有する必要があった。
半月ほど、直感的な感覚でAIを使ってきた。
作業のフェーズが変わった今、
真剣な仕様に切り替えるタイミングだったんだと思う。

今日の結論：AIにも取扱説明書が要る

AIは便利だけど、万能じゃない。
もっと具体的に、範囲を明確に伝えられたら、暴走は防げたかもしれない。
でも、毎回完璧な指示を出すのは無理だ。
だから、AI任せにしない。
改変範囲と出力ルールを、先に縛る。
「事実」と「推論」と「仮説」を分けてもらう。
「分からない」と言ってもらう。
この境界線を引いた瞬間、私とAIの協働は、もっと安全になった。

最後まで読んでくださってありがとうございます。
あなたは、AIとのやりとりで「勝手に変えられた」「意図と違う」と感じたことはありますか？
もしあれば、どう対処しましたか？
よければ、スキやフォローしていただけるとうれしいです。

Podcast始めました！

「動ける完璧主義ラジオ｜未完成の取扱説明書」 

🎧 音声でもお楽しみいただけます♪

🎧お好みのアプリでポッドキャストを聴く方はこちら