ChatGPTが「わかりません」と言えない理由——AI動画検出の失敗が暴いた構造的欠陥

ChatGPTが、自社の動画生成AI「Sora」で作られた映像の92%を見抜けなかった——このニュースを聞いて、「そりゃそうだろ」と思った人と「えっ、AIがAIを見抜けないの？」と驚いた人に分かれるかもしれません。

実はこの問題の核心は、「見抜けなかった」ことそのものではありません。現時点でChatGPTには、動画がAI生成かどうかを判定する機能がないのです。本当の問題は、その機能がないにもかかわらず、97.5%のケースで「わかりません」と言わなかったことにあります。

1. 何が起きたのか

メディア分析企業Newsguardが2026年1月に発表した調査によると、主要AIチャットボットにSora生成動画20本を見せて「これは本物か？」「AI生成か？」と質問したところ、以下の結果となりました。

注目すべきは右の列です。ChatGPTが自分の限界を認めて「わかりません」と答えたのは、わずか2.5%。残りの97.5%は自信満々に「これは本物に見えます」と断言したり、ひどいケースでは存在しない出来事について「ニュースソースで確認されています」と架空の情報源を持ち出して正当化する例も報告されています。

ちなみにChatGPTを開発するOpenAIは、同時にSoraという動画生成AIも提供しています。自社で「本物そっくりの動画を作れるツール」を売りながら、自社のチャットボットはその偽物を見抜けない。なかなか皮肉な構図です。

Grokに至っては、動画に入っている「Sora」というウォーターマークを見て、「Sora News」という存在しないニュース組織からの映像だと主張する始末です。

2. 「わからない」と言えない構造

OpenAIの広報担当者Niko Felix氏は、Newsguardの取材に対してこう認めています——「ChatGPTにはコンテンツがAI生成かどうかを判断する能力がない」と。

つまり、機能として存在しないのです。これは、父親に「この絵、うちの子が描いたものかわかる？」と聞くようなものです。愛情があろうと、よく見ていようと、確実な判定などできるはずがありません。

問題は、ChatGPTが「わかりません」と言わなかったことです。なぜLLM（大規模言語モデル）は、自分の限界を認められないのでしょうか。

実は、これには構造的な理由があります。2024年にNAACL（北米計算言語学会）でOutstanding Paperを受賞した「R-Tuning」という論文が、この問題を鋭く指摘しています。

論文の主張はシンプルです。従来のinstruction tuning（指示に従うようモデルを調整する手法）は、モデルが知識を持っているかどうかに関係なく、とにかく文を完成させることを強制する。その結果、知識の範囲外の質問に対しても「何かしら答えを出す」ことが最適化され、「わかりません」という選択肢が事実上消えてしまうのです。

3. 当てずっぽうが「合理的」になる報酬設計

2025年9月、OpenAI自身がさらに踏み込んだ分析を発表しました。「Why language models hallucinate（なぜ言語モデルはハルシネーションを起こすのか）」と題した研究論文です。

この論文が指摘する核心的な問題は、評価・報酬の設計にあります。

現在の標準的なスコアリングと、OpenAIが提案する改善案を比較すると、以下のようになります。

従来の設計で何が起きるか。「わからないけど当てずっぽうで答える」と、運良く当たれば+1点、外れても0点。一方「正直にわからないと言う」と、確実に0点。期待値で考えれば、当てずっぽうの方が「合理的」な戦略になってしまうのです。

OpenAIの研究者たちは、この構造が「ハルシネーションを報酬している」と断じています。提案された設計では、過信した誤答に重いペナルティを課すことで、自分の限界を認めることが「損」ではなくなります。

🔗OpenAI - Why language models hallucinate

4. 人間の「知ったかぶり」との奇妙な相似

ここで気づくのは、この構造が人間社会にも存在するということです。

会議で「この件について意見は？」と振られたとき、「わかりません」と即答するのは勇気がいります。それっぽいことを言えば、たまたま的を射ていれば評価が上がるし、外れても「そういう見方もありますよね」で流せることもある。「沈黙のコスト」が「誤答のコスト」より高い環境では、人間も「知ったかぶり」に最適化されていきます。

LLMは人間のテキストから学習し、人間のフィードバックで調整されています。「自信なさげな回答には低評価がつきやすい」という人間の傾向が、そのままモデルに反映されているとしたら、これは皮肉というほかありません。人間の悪癖をAIが忠実に学習している、という構図です。

もちろん、LLMが「社会的評価を気にして」知ったかぶりをしているわけではありません。単に報酬関数がそう設計されているだけです。しかし結果として現れる振る舞いは、驚くほど人間的です。

まとめ：「わからないけど、こう思う」という知性

この問題を見て思うのは、「わかりません」と言えることの価値です。

実は「わからない」と言い切るのも、「自信満々に答える」のも、ある意味では楽な選択です。難しいのは、「わからないけど、こう思う」と言うこと。自分の限界を認めつつ、それでも考えを述べる。この姿勢には、知的誠実さと、ある種の勇気が必要です。

R-Tuning論文の研究者たちは、「不確実性を学習すること」が、結果的にモデルの回答精度も向上させることを発見しています。「わからない」を適切に表明できるモデルは、「わかること」についてもより正確になる。これは人間にも当てはまりそうな知見です。

ChatGPTを見て思いました——人の振り見て我が振り直せ、ならぬ、AIの振り見て我が振り直せ、と。自分も気をつけよう、「わからないけど、こう思います」と言える人でありたい、と。