「動く」は、「説明できる」ではない——AIコード時代の、見えない技術的負債

リサ

2026年5月17日 09:15

2026年5月観測
Observer Zero

前回の記事で、「動いた」は「売れる」ではない、と書いた。

しかし書いた後に、もう一段別の違和感が残った。

そもそも「動いた」は、「説明できる」なのだろうか。
「説明できる」は、「理解している」なのだろうか。
「理解している」は、「責任を取れる」なのだろうか。

これが今回の観測点だ。

昔の技術的負債と、今の技術的負債

技術的負債という概念は、昔からある。

誰も触れない古い社内システム、スパゲッティコード、ドキュメントのない属人化した業務フロー。これらはAIが登場する前から存在していた。

ただし、昔それを作ったエンジニアの多くは、こう思っていた。

「ここはやばい」「ここは後で直さなければならない」「ここは自分しかわからない」「ここは本当はレビューが必要だ」

不安の所在を、知っていた。

Claude Codeなどの高度な開発AIが浸透した時代に起きているのは、別の問題に見える。

「説明できないことに気づかない人」が、作る側になった。

本人は不安の所在を知らない。データベースの危険を知らない。認証・権限・例外処理・バックアップ・ログ・個人情報保護の怖さを知らない。でも、画面は動く。

このとき、人間の認知に何かが起きる。

「自分にはわからない」ではなく、「AIが作ったから大丈夫」になる。

「動く」という事実の重さ

AIコーディングツールはプロトタイプの作成、アイデアの検証、熟練エンジニアの補助として大きな力を発揮する。実際にそれで事業を立ち上げ、成功している人もいる。問題はツールの性能ではない。

問題は、「動いた」という事実が持つ説得力だ。

画面の前に形があると、人間は信じやすくなる。機能が動くと、構造への問いが発生しにくくなる。これは認知の特性であり、AI以前から変わらない。

ただ、Claude Codeのような開発ツールは、この特性を一段加速する。

プロトタイプができる。UIができる。ランディングページができる。事業計画書もできる。そして本番環境に近いものも、できてしまう。しかも見た目が整っている。昔なら、専門外の人が作ったものには粗さが滲み出ていた。画面も雑、動きも雑、すぐバグる。だから周囲も「まだ試作品だ」と判断できた。

今はその信号が消えた。

表面が整っているから、「信頼できるものだ」という誤読が起きうる。

そして、機能的に動くことと、安全に運用できることは別問題だ。機能テストを通るコードが、セキュリティや保守性の観点で別の問題を抱えている可能性は、複数の研究や業界レポートで指摘されている。SC Worldは、Microsoftシニアプロダクトマネージャーのロッド・トレント氏が「vibe codedなアプリは90%がAIの力、10%がハッカーの餌になりうる」と述べたことを報じている。

「vibe coding」とは、AIに指示しながら感覚的にコードを生成していくスタイルを指す。プロトタイピングの速度は上がる。しかし動いたものが安全かどうかは、別の問いになる。

Checkmarxは「AIが生成するコードは、機能的に動いても、セキュリティ観点では別の問題を抱えていることがある」とし、レビュー・監査なしでの本番投入のリスクを警告している。

これは「AIが危険だ」という話ではない。「動いたものを確認なしに本番へ繋ぐ手続きが危うい」という話だ。

「説明された」は、「理解した」ではない

もう一段、厄介な問題がある。

AIに「このコードは何をしているのか」と聞くと、それっぽい説明が返ってくる。

そのためユーザーは、「説明してもらった」「だから理解した」と感じやすい。

しかし、「説明を読んだこと」と「障害が起きたときに判断できること」は違う。

自動車で例えると、こうなる。AIが作ってくれた車が目の前にある。アクセルを踏めば前へ走る。「このエンジンはどう動くのか」と聞くと、AIが丁寧に説明してくれる。その説明を読んだ。しかし、走行中に異音がしたとき、何が起きているかアタリをつけられるか。ブレーキが壊れたとき、安全に止められるか。

「説明を受けた」と「構造を理解している」は、別の話だ。

そして「理解している」と「壊れたときに直せる」も別で、「直せる」と「責任を取れる」もまた別だ。

「説明された」が「理解した」に見える。「理解した」が「直せる」に見える。この連鎖が、動くものの前では見えにくくなる。

善意が届かない場所

個人の趣味アプリが壊れても、損害は限定的だ。

しかし今、AI内製化は別の場所に入り始めている。

中小企業の担当者が、外注費を削るために社内業務システムを作る。学校の教員が、生徒情報の管理や連絡用ツールを作る。小規模な医療機関が、予約フォームや問診票を作る。自治体の部署が、住民向けの簡易ツールを作る。

これらは悪意から始まっていない。予算が限られている。外注すると高い。AIが作ってくれる。動いた。便利になった。そういう善意と合理性の積み重ねだ。

ただ、その合理性の中に、一つ問いが抜けていることがある。

「このコードが壊れたとき、誰が、何を、どう判断して対応するのか」

Kasperskyは非技術者向けのガイドで「AI生成コードは数時間で機能するように見えても、危険な欠陥を含みやすい」と指摘している。Forbesは「vibe codingはアイデアとデプロイの距離を縮めるが、組織がそれを扱う判断システムを持っているかが本当のリスクだ」と書いている。

個人情報、業務の継続性、顧客との契約が絡む領域では、「動いているから大丈夫」は出発点ではなく、問いの始まりになる。

技術的負債は、速度を持った

この問題は、組織の中でも起きている。

「Claude Codeでコードベースが大きくなるとブラックボックス化し、自分で説明できなくなった」「最初は速く作れたが、後から誰も触れなくなった」「AIに直し続けてアーキテクチャがぐちゃぐちゃになった」。開発者コミュニティで、そうした経験が共有されるようになっている。

技術的負債はAIが発明したものではない。しかしAIは、それに速度を与えた。

以前なら、理解しながら作るプロセスに時間がかかった。その時間が、ある意味ではブレーキになっていた。今はそのブレーキが薄い。動くものが速く出来上がる分、「わからないまま進む」ことへの抵抗感が下がりやすい。

Checkmarxはこれを「vibe codingのハングオーバー」と呼んだ。最初は速い。後から、「誰も説明できない・直せない・安全でない」という請求書が来る。

気圧計として

この記事は、AIコーディングツールを使うなという話ではない。

人間がレビューし、理解を担保し、責任体制を整えた上で使えば、AI開発ツールは大きな補助になる。問題はツールの性能ではなく、「動いたものを社会に繋ぐ際に、人間側に何が必要か」という問いが省略されることだ。

現時点では、研究・専門家発言・開発者コミュニティの声から見え始めている段階であり、統計的に確認された大規模被害があるわけではない。しかし、気圧は変わりつつある。

技術の民主化は、「作れる人」を増やした。しかし「壊れたときに責任を取れる人」を、同じ速度では増やしていない。その差を、今記録しておく。

まだ途中にいる。
だからこそ、観測を続けていく。

参考

Zhao et al.（2025）"Is Vibe Coding Safe? Benchmarking Vulnerability of Agent-Generated Code in Real-World Tasks." arXiv:2512.03262（SUSVIBESベンチマークを使用）

https://arxiv.org/pdf/2512.03262

Waseem et al.（2025）"Vibe Coding in Practice: Flow, Technical Debt, and Guidelines for Sustainable Use." arXiv:2512.11922

https://arxiv.org/pdf/2512.11922

Checkmarx（2026年5月）"The Vibe Coding Hangover"

https://checkmarx.com/blog/the-vibe-coding-hangover/

Checkmarx（2026年3月）"Security in Vibe Coding"

https://checkmarx.com/blog/security-in-vibe-coding/

Forbes（2026年4月）"Vibe Coding Will Break Your Company"

https://www.forbes.com/sites/jasonwingard/2026/04/23/vibe-coding-will-break-your-company/

SC World（2026年5月）"Vibe coding has cybersecurity asking what AI can and can't replace"

https://www.scworld.com/feature/vibe-coding-has-cybersecurity-asking-what-ai-can-and-cant-replace

Kaspersky（2026年4月）"Safer Vibe Coding 2026"

https://www.kaspersky.com/blog/safer-vibe-coding-2026/55677/

Grokによる「AIコード・技術的負債・vibe coding」スキャン（2026年5月16日）：研究・専門家発言・ユーザー投稿を対象とした観測補助。統計調査ではない。