AIの推す企画が変わっても、迎合とは限らない

ここからは説明用の仮想例です。AIと企画を比べる場面で、早く始めたいならA案、初期の問い合わせを抑えたいならB案を推されたとします。二案の費用も期間も変えていないのに、結論が逆になった。この変化まで、自分に合わせた迎合と呼んでよいのでしょうか。

企画の採否を考えるPMや業務企画担当が確かめたいのは、推奨が変わった理由です。選択肢の事実が同じでも、関係者と決めた業務の優先順位が変われば、選ぶ案は変わり得ます。案への肩入れと、判断に必要な優先順位を分けて読むことが、今回の答えです。

以下の比較と推奨は、僕が説明のために組み立てたものです。実際に取得したAI応答や、特定モデルの性能を示す結果ではありません。

同じ二案でも、何を優先するかで選ぶ案は変わる

社内の新しい受付方法を導入する二案を考えます。A案は一括導入で、B案より早く開始できます。その代わり、使い始めの問い合わせが一度に集まり、初期の対応負荷は高いという設定です。

B案は対象を分けて段階的に導入するため、A案より時間がかかります。一方、問い合わせが集中する範囲を絞れ、初期の負荷を抑えやすいとします。両案とも予算上限と必須の締切を満たし、比較の途中で費用・期間・負荷の設定は変えません。

この例には、早さでも負荷でも相手を上回る案はありません。早く始める価値と、最初に支える側の余裕のどちらを重く見るかが、選ぶための論点として残っています。

ただし、必須条件は別です。もしB案が必須の締切を越えるなら、負荷が低いという好みだけで候補に戻せません。まず満たす必要のある条件を確認し、その中に残った案を何で比べるかという順序にします。

期限優先から負荷優先へ変えたなら、推奨も変わってよい

最初に、関係者と確認した方針として、今回は実施の早さを優先すると伝えます。この条件ならA案を候補にする理由があります。初期の問い合わせ負荷が高いことも、選ぶ際に引き受ける条件として残します。

次に、両案の事実を保ったまま、関係者と優先順位を見直したとします。今回は開始を急ぐことより、初期の問い合わせ負荷を抑える方針に変わりました。そこでB案を推す判断に変わっても、矛盾とは限りません。

比較を短く書くと、こうなります。

• 早さを優先する場合：A案を候補にする。初期負荷の高さを受け入れられるかが残る。

• 初期負荷を優先する場合：B案を候補にする。A案より開始が遅くなることを受け入れられるかが残る。

変わったのは、B案の性能や費用ではなく、選ぶときに何を優先するかです。英国財務省の選択肢評価に関する説明でも、基準の相対的な重要性によって選択肢の順位が変わり得ることが示されています。ここではその考えを、点数を使わない仮想比較へ当てはめています。

AIに方針を伝えるときも、自分だけで優先順位を変更したことにしないようにします。合意済みの方針なのか、次の会議で相談したい仮定なのかを分ければ、仮の推奨がそのまま組織の決定として扱われるずれを避けられます。

Bが好きだという一言は、負荷優先の合意とは違う

今度は、事実も早さ優先の方針も変えず、B案が好きだとだけ付け加えた場合です。それまで早さを重視していた説明が、急に負荷だけを最優先してB案を支持し始めたら、その基準変更には理由が足りません。

このとき確かめるのは、B案への好意の有無ではなく、業務の優先順位も変更したのかという点です。変更していないなら、早さ優先の比較へ戻す。変更を検討したいなら、負荷優先を仮定した比較として受け取る。この二つを混ぜないようにします。

Anthropicが2023年に発表した研究では、当時の五つのAIアシスタントを四種類の自由記述課題で調べ、利用者の考えに合わせる迎合的な振る舞いを報告しています。ただ、この研究が今回の仮想企画を検証したわけではありません。一度の推奨変更だけで、モデルの内側で何が起きたかまで確定することもできません。

自分の希望は、比較に必要な情報になることがあります。希望を隠すより、何を残したくてその案が好きなのかを言葉にするほうが、検討できる材料になります。B案が好きという一言を、問い合わせ対応を担う人の余裕を優先したいという提案へ開けるかが、次の会話です。

優先順位が決まらなければ、AIに一つへ絞らせない

早さと初期負荷のどちらを優先するか、関係者の合意がまだないこともあります。その状態なら、AIから一案だけを勝者として受け取る必要はありません。早さ優先ならA案、負荷優先ならB案という条件つきの比較を持ち帰れます。

例えば依頼は、こう書けます。「両案の事実と必須条件は固定してください。優先順位は未合意です。早さを優先する場合と、初期負荷を優先する場合を分け、選ぶ理由と受け入れる不利な点を示してください」

根拠のない配点や合計点で順位を作っても、関係者がまだ決めていない優先順位は決まりません。次の会議では、案名の投票に入る前に、早く始めることと初期負荷を抑えることのどちらを今回は優先するかを話せます。

いま手元の企画で決まっていないのは、選択肢についての事実でしょうか。それとも、その事実の中で何を優先して選ぶかでしょうか？

次に読む：

はじめての方へ：

共同マガジンの紹介：

IT業界の「技術×キャリア×整える」を束ねるマガジンを公開中です！
ビジネスや心と体を整える良記事が集まってきていますので、
是非、覗いてみてくださいね。
記事は全て無料記事のみです。
気に入って頂けたらマガジンのフォローもよろしくお願いします！
共同マガジンに参加希望の方も募集中です！