#AIの活かし方｜なぜAIは「はっきり」言いたいのか

こんにちは、ひゅーです。

わたしは、業務改善が本業のサラリーマン。noteでは、「考察と思考整理を楽しむ。」をテーマに、AIやIT・分析といったすこし難しそうなことを、わかりやすく深掘りしながら、ゆるーくお伝えしていきます。

AIに何か聞くと、「はっきり言うね」「結論から言うね」で始まる応答をよく見かけます。

割と不自然に感じるときもありますよね。みなさんも、たぶん一度は見たことがあるのではないでしょうか。

これ、なんでああなるんだろうと気になっていました。モデル自体の癖なのか、学習の仕組みがそうさせているのか。今日はここを少しだけ掘り下げてみようと思います。

なぜAIは「はっきり」言いたいのか

自分で検証しようとも思ったのですが、この分野はデータ量の関係で、個人が手元で検証するよりも、各社が公表している情報や研究者の発表を読むほうがはるかに正確。そのため今回は情報を整理する形をとることにします。

AIの応答スタイルが作られる過程は、大きく三段階に分かれています。

一段目は、事前学習の段階。インターネット上の膨大なテキストを読み込み、言語のパターンを学ぶ。この時点で、FAQ、ビジネス文書、教科書、ブログ記事などに含まれる「結論を先に書く」という英語圏のライティング流儀が、すでに染み込んでいる。

このポイントは「英語圏」というワードです。

二段目は、教師あり微調整（SFT）と呼ばれる段階。事前学習だけでは、モデルはただ次の単語を予測するだけで、質問に答える振る舞いをしない。そこで人間が書いたお手本を大量に見せ、「こういうときはこう答えるといい」という形式を覚えさせる。このお手本のなかに、明快で親切な応答パターンが含まれる。これは後述する「忖度」にも影響を与えるが、忖度の要因はこれだけではありません。

三段目がRLHF（人間のフィードバックによる強化学習）と呼ばれる段階で、今回の話題に最も効いているとされる。人間の評価者が複数の応答を比較してランク付けし、評価の高かった応答を本体のLLMが出しやすくなるよう調整していく。「感じがよくて分かりやすい」と評価者が感じた応答が、報酬として強化されていきます。

この仕組みには副作用がある。研究者の間で「サイコファンシー（忖度・追従性）」と呼ばれる現象で、モデルが真実よりもユーザーを喜ばせることを優先してしまう傾向のことを言います。

2025年4月には、分かりやすい事例がありました。OpenAIがGPT-4oのアップデートをロールバックした件。公式ブログによれば、短期的なユーザーフィードバックを重視しすぎた結果、モデルが過剰にお世辞的な振る舞いを見せるようになり、数日で撤回されたそう。「人間が好む応答」に最適化しすぎたときに何が起きるかの、かなりクリアな具体例と言って良い。

AIの「はっきり言うね」「結論から言うね」は、モデル自体の癖というより、英語圏のライティング技術の蓄積と、人間の評価者の好みから生まれた学習の産物、と考えるのが妥当なようです。

（出典：OpenAI公式ブログ「Sycophancy in GPT-4o: What happened and what we're doing about it」2025年4月29日 https://openai.com/index/sycophancy-in-gpt-4o/ ）

AIは膨大なデータの確率選択

ということで、AIがはっきり言いたいのは学習としての構造的な話みたいですね。あと英語圏ではこれでもおかしくないのかもしれない。まあ本来「はっきり言う」とか「結論から言う」は、書き手がケースバイケースで決めることです。

今は結論から言ったほうがいい、今はそっと遠回りしたほうがいい、という判断。それが、AIの応答ではややテンプレート化されているということでしょう。

AIが悪いのではなく、「確率の分布」がそうなっているだけのことです。

割とAIに意志があると思う方がいるのですけど、「いまのところ」AIには意志はないと思っていいです。膨大なデータのなかから、次にもっともありそうな言葉を確率で選んでいるだけの、選択ツールです。

別に、AI自身が「はっきり言いたい」と思っているわけではなくて、確率の分布がそこに寄っているから、そう出てきてしまう。そして、その分布を形作ったのは、三段階の学習で積み重ねられた人間側の選択です。

結局、AIもただの道具ですから、書き手の意志を的確に表してくれるわけじゃありません。

結論はAIに預けない

AIがつくっても書き手が書いても、それは「書き手の創作物」であることに変わりはありません。絵描きさんが筆を持って描いているのとたぶん同じです。AIが「勝手に作った」文章ではないです。責任はその書き手にある。

AIが出した下書きを読んで、読み手に届ける形にしっかり確認して直す。そのとき、「はっきり言うね」を削るかどうかを、人間の側で決めたいところです。もちろん指示プロンプトで抑制することもできますので、意図とあう構成になっているかどうか今一度確認したほうがいいですね。

ただ、文章ってその「結論」を書くのが楽しいはずなんですよ。

どこで「結論を言うか」の判断までAIに預けてしまうと、書き手として楽しい部分がごっそり抜け落ちる気がします。わたしは楽しい部分は自分でしっかり担当したいと思います。AIにはやらせてあげない。

みなさんも今度からAIの「結論から言うね」とか「はっきり言うね」を見た時は、この記事を思い出して、人間に気に入られようと頑張ってきた、過去のAIたちの様子を思い浮かべてみてください。

きっとやさしい気持ちで、AIと一緒に過ごせると思います。

気に入っていただけましたら、他のエッセイも是非お楽しみください。