既知と前提を疑うためのAI

AIは、知らないことを知るための手段として活用されるケースが多いと思います。

最近はそれ以上に、自分がすでに知っていると思っていることを疑うための道具としての価値が大きくなっていると感じます。

特に、自分が詳しい領域ほど、その価値は高いのではないでしょうか。

経験が増えるほど、前提は疑いにくくなる

経験は、意思決定の質とスピードを高めます。パターンを認識し、リスクに優先順位をつけ、毎回ゼロから考えずに判断できるのは、経験があるからです。

一方で、経験は「過去の環境でうまくいったこと」の蓄積でもあります。環境が変われば、以前は正しかった判断が、そのまま現在にも通用するとは限りません。経験を活かすには、経験を蓄積するだけでなく、いつそれを疑うべきかを知ることも重要だと考えます。

権力と助言の受け入れ方に関する研究では、権限を持つ人ほど外部からの意見を割り引く傾向が示されています。また、主観的な権力感が過信につながるという研究もあります。これは、立場が上になるほど判断を誤るというより、その判断が周囲からも自分自身からも疑われにくくなるということなのでしょう。

長く成功した判断ほど、修正しにくい

過去の成功も、同じ問題を生みます。「成功のパラドックス」に関する研究では、人や組織が、環境が変化した後も、それまで成功していた戦略を使い続けることが示されています。

問題は、年齢や経験年数そのものではありません。ある判断や方法が、どれだけ長く機能してきたかです。長く成功してきたものほど、「今も正しいのか」と問い直すことは難しくなります。

ここでいうアンラーニングとは、経験を捨てることではありません。経験によって固定された前提を、もう一度仮説に戻すことだと考えています。

特に経営においては、未知への挑戦による失敗よりも「成功の復讐」の方が大きな問題になりやすいのは往々にしてあることだと思います。

AIが変えたリサーチの前提

私は金融やコンサルティングの仕事をしていたこともあり、リサーチや情報整理には比較的慣れていました。そのため以前は、AIに聞いて、その回答を検証するくらいなら、自分で調べたほうが速く、確実だと思っていました。

しかし、今は必ずしもそうではありません。AIは広い範囲から情報を集め、複数の仮説を提示し、大量の情報を短時間で整理できます。もちろん精度には注意が必要ですが、探索範囲を広げる能力は大きく向上しています。

人間は調査をするとき、自然と範囲を絞ります。知っている言葉で検索し、信頼している情報源を使い、自分が重要だと考えている論点を中心に調べる。専門性が高いほどその精度は上がりますが、同時に「何を調べなくてよいか」を早く判断するようにもなります。

詳しい領域ほど、AIに聞く意味がある

少し前まで、AI活用については「リサーチが苦手なら、とりあえずChatGPTに聞いてみる」という使い方が中心だったように思います。それは今でも有効です。

ただ、現在はむしろ逆の使い方が重要になっているのではないでしょうか。自分が詳しい領域ほど、AIに独立して調べさせるという使い方です。

専門領域では、調べ始める前から自分なりの答えを持っていることが多くなります。その結果、証拠を探しているつもりでも、実際には自分の考えを支持する情報を中心に集めてしまうことがあります。知らないことよりも、「知っている」と思っていることのほうが、かえって疑いにくいのだと思います。

AIを「反対役」として使う

ただし、AI自体が客観的とは限りません。質問の前提やユーザーの意見に引っ張られ、誤った考えを補強してしまうこともあります。実際、言語モデルがユーザーの意見に迎合するsycophancyと呼ばれる傾向も研究されています。

そのため、重要な意思決定では、自分の結論を先に伝えすぎないほうがよいと考えています。まずAI自身に調査させ、そのうえで「前提の弱い部分はどこか」「最も強い反対意見は何か」「最近、状況を変えるような出来事はないか」「自分の考えと矛盾する証拠はないか」と問いかけます。

求めるのは同意ではなく、反論です。AIは答えを出すためだけではなく、自分の考えに抵抗を加える相手として使うことで、価値が高まる場面があると思います。

AIが賢くなっても、判断は人間に残る

AIを使えば、自動的に意思決定の質が高まるわけではありません。106件の実験を分析したメタ分析では、人間とAIのチームは平均すると人間単独より高い成果を出した一方で、人間かAIのどちらか、単独でより優秀だった側の成績には及ばなかったとされています。

つまり、AIを使えることと、良い判断ができることは同じではありません。いつ信頼するのか、いつ疑うのか、どの情報を検証するのか。最終的には、人間が判断する必要があります。

Microsoft Researchの研究では、生成AIの利用により、クリティカルシンキングの対象が「情報を作ること」から「検証し、統合し、管理すること」へ移る可能性が示されています。人間が考えなくなるというより、考える場所が変わっていくのでしょう。

経験を、結論ではなく仮説にする

経験は、これからも重要だと思います。経験があるからこそ、何を問うべきかが分かり、AIが出した情報の質も評価できます。何が重要で、何がノイズなのかを判断する力も、経験から生まれます。

ただし、経験を最終的な答えにしないことが重要です。経験から最初の仮説をつくり、AIを使って現在の情報と照らし合わせる。反対意見を探し、前提を更新し、必要であれば結論も変える。

人間の専門性とAIは、どちらか一方を選ぶものではありません。

経験が問いをつくり、AIが探索範囲を広げ、人間が判断する。

AIは、知らないことを学ぶためだけの道具ではありません。

自分がよく知っている領域だからこそ、あえて問い直す。

知っていると思っていることを疑うために、AIを使う。

これからのAI活用では、そうした使い方がより重要になると考えています。