AIカスタム設定に関する心理的バイアス及びPKMフレームワークを使用した問題切り出しについて（By DeepResearch）
了解しました。AIカスタム設定に関する心理的バイアスの裏付け（イリュージョン・オブ・コントロール、IKEA効果、確証バイアスなど）とともに、オリジナルのPKM（Policy–Knowledge–Mechanism）フレームワークをこの文脈に適用する妥当性についても検証し、査読論文形式で日本語5,000字以上の文献レビューを作成します。
調査が完了次第、構造化されたレポートとしてお届けします。しばらくお待ちください。
序論
近年、生成AIや対話型AIシステム（例：ChatGPT）の普及に伴い、ユーザがAIの振る舞いを「カスタム設定」によって調整する機会が増えている。ユーザはシステムに対し事前に方針を指示したり（例：応答のトーンや禁止事項の設定）、ドメイン知識を追加提供したり、推論プロセスに工夫を凝らしたプロンプトを与えたりすることで、AIの出力を自分の目的に合うようにカスタマイズできる。このようなAIカスタム設定を分析するためのオリジナルのフレームワークとして**PKM（Policy–Knowledge–Mechanism）**が提案されている。PKMフレームワークは、AIの挙動を決定する要因を「ポリシー（方針）」「ナレッジ（知識）」「メカニズム（機構）」の3要素に分解して捉えるものである。本研究では、このPKMフレームワークの妥当性を既存の研究知見と照らし合わせて評価するとともに、ユーザによるAIカスタム設定の効果や満足度に影響を与える認知バイアス（例えば、コントロール錯覚（Illusion of Control）、IKEA効果、確証バイアス、サンクコスト効果）の役割を文献レビューによって検討する。
具体的には、まずPKMという新規枠組みがAIのカスタム設定分析にどの程度有効であるかを、他の理論的枠組みや関連研究と比較して評価する。次に、人間とAIのインタラクション文脈において、AIのPolicy（方針）・Knowledge（知識）・Mechanism（機構）という分解が理論的および実証的に支持されるかを検討する。さらに、AIカスタム設定の利用に伴うユーザの心理的満足度や認知バイアスの影響について、HCI（ヒューマンコンピュータインタラクション）、認知心理学、行動経済学などの分野の既存研究をレビューする。特に、ユーザがAIの設定を調整する際に抱きがちなコントロール錯覚（設定によって自分が結果を制御していると感じる傾向） (The Illusion of Control: Placebo Effects of Control Settings)、IKEA効果（自ら手を加えたシステムに対して評価が高まるバイアス） (Microsoft Word - 11-091 norton mochon ariely.doc)、確証バイアス（自分の期待を裏付ける情報だけを重視する傾向） (The Illusion of Control: Placebo Effects of Control Settings)、サンクコスト効果（投入した労力が無駄になることを嫌い、非合理的に継続してしまう傾向） (Beyond Habit: The Role of Sunk Costs on Developing Automatic IS Use Behaviors)に着目する。最後に、AIのカスタム設定を行わずモデル本来の性能を重視するアプローチについて、そのメリット・デメリットを議論し、信頼性のある資料に基づき考察する。以上を、序論、背景、方法（文献レビュー）、考察、結論の構成に沿って述べる。
背景
AIシステムの構成要素とPKMフレームワーク: AIの振る舞いを左右する要因を分析するにあたり、「Policy（方針）」「Knowledge（知識）」「Mechanism（機構）」の三要素に分けて考える視点は、情報システムや人工知能の設計思想と通じるものがある。古典的なシステム設計原則では、実装メカニズムと運用上の方針を分離すべきだとされてきた ([PDF] Distributed Policy Specification and Interpretation with Classified ...)。また、エキスパートシステムに代表される知識ベース型AIでは、知識ベース（ルールや事実の集合）と推論エンジン（推論機構）を明確に分離する構成が採られてきた (Expert system - Wikipedia)。
PKMフレームワークは、このようなメカニズム（機構）とポリシー（方針）の分離に加え、システムが保持・利用する知識の要素を明示的に考慮した点に特徴がある。
Policyは、AIの出力を誘導または制約するための原則やガイドラインを指す。例えば、対話型AIにおけるシステム規則やプロンプトで与える指示、あるいは強化学習による報酬モデルが相当する (Claude’s Constitution \ Anthropic)。Knowledgeは、AIが内部にもつ知識やデータであり、事前学習で蓄積された世界知識や、ユーザから与えられる追加情報、外部の知識ベースからの参照情報などを含む。Mechanismは、AIがタスクを遂行する際の内部プロセスやアルゴリズムを指し、例えばニューラルネットワークのアーキテクチャや生成時の推論手順（例：自己回帰生成やチェイン・オブ・ソートによる段階的推論）などである ([2201.11903] Chain-of-Thought Prompting Elicits Reasoning in Large Language Models)。
近年の大規模言語モデルの運用にも、この三要素に対応する分離が見られる。例えば、OpenAIのGPT系モデルでは、事前学習済みの知識を持つ言語モデル（Knowledge部分）に対し、人間のフィードバックによる調整（RLHF）やシステムメッセージで与える指示によって、回答のスタイルや禁止事項といったポリシーを適用する。またAnthropic社の「Constitutional AI」のアプローチでは、AIに一連の原則（憲法）を与えて自己評価させることで、モデルの価値観（方針）を明示的に調整している (Claude’s Constitution \ Anthropic) (Claude’s Constitution \ Anthropic)。このように、モデルの内部知識と外部から与える方針を切り分け、メカニズム（出力生成過程）にそれらを組み込む形でAIの振る舞いを制御する設計が追求されている。PKMフレームワークは、これらの動向を一般化し、AIカスタム設定を分析する上で知識・方針・機構の観点から要素分解することを提案するものである。
AIインタラクションへの三要素分解の適用: 人間とAIのインタラクション研究においても、ユーザがAIシステムに介入できるポイントを上記三要素で整理できる可能性がある。例えば、ユーザがAIに対して行うカスタム設定は大きく (1) 応答のスタイルや制約を指定する（Policyの調整）、(2) 辞書や知識グラフを追加する（Knowledgeの拡張）、(3) 推論手順を変えるプロンプトを用いる（Mechanismへの介入）といった形で分類できる。実際、LLMにステップバイステップで考えさせる**チェイン・オブ・ソート（Chain-of-Thought）**プロンプトの使用は、モデルの知識ベースを変えずに推論プロセス（機構）を工夫することで性能向上を達成する例である ([2201.11903] Chain-of-Thought Prompting Elicits Reasoning in Large Language Models)。一方、専門ドメインのユーザがモデルに自前のデータや用語を教え込む行為はKnowledge要素のカスタマイズと見なせ、推論アルゴリズムを変えなくとも回答内容の専門性を高められる。
以上のような観点から、PKMフレームワークはAIのカスタム設定を包括的に分析する枠組みとして理論的には妥当性があると考えられる。しかし、その有効性を確認するには、既存の研究に照らして各要素が独立に議論・検証されているかを見る必要がある。以下、文献レビューの方法を述べ、その結果に基づきPKMの妥当性とカスタム設定に関わる心理的側面を考察する。
方法（文献レビュー）
本研究では、PKMフレームワークの評価およびAIカスタム設定と心理的バイアスに関する考察のため、関連する先行研究を体系的に収集・分析した。まず、AIシステムの設計原則やインタラクション理論において、Policy・Knowledge・Mechanismに対応する概念が議論されている文献を探索した。具体的には、システム工学・人工知能分野の基礎的原則（例：ポリシーとメカニズムの分離、知識ベースと推論エンジンの構造）に関する文献、および大規模言語モデルのアラインメント手法（RLHFやConstitutional AIなど）に関する研究を参照した。
次に、ユーザによるAIの設定変更とその心理的影響に焦点を当て、HCIや認知心理学、行動経済学の分野から関連研究を収集した。キーワードとして「ユーザコントロール」「パーソナライゼーション」「Illusion of Control（制御の錯覚）」「カスタマイズ 満足度」「IKEA効果」「確証バイアス」「サンクコスト」等を用い、学術論文データベース（ACM Digital LibraryやGoogle Scholar等）や主要な学会（CHI、UIST、認知科学関係）の論文を検索した。また、AIシステム利用時のユーザの主観的満足度と客観的性能との関係について実証データを提供する研究（例：リコメンダシステムにおけるユーザ制御の効果、アルゴリズムへの信頼性に関する実験）も検討対象とした。
収集した文献の中から、本稿の論点に直接関係するものを精査し、以下の観点で整理した。(1) PKMフレームワークの各要素（Policy・Knowledge・Mechanism）に対応する既存の概念・モデルおよびその支持根拠、(2) AIの出力制御やカスタマイズに関するユーザ研究の知見（満足度や認知バイアスへの影響）、(3) モデルのデフォルト性能を優先する場合とユーザ調整を許容する場合のトレードオフに関する議論である。文献レビューの結果を次節で考察する。
考察
1. PKMフレームワークの妥当性評価: 文献レビューから、Policy・Knowledge・Mechanismという三層に分けてAIシステムを分析する視点は、多くの先行研究の示唆と整合することが分かった。まずPolicyに相当する概念は、強化学習やAI倫理の文脈で明確に定義されている。強化学習ではポリシーは「環境状態を受け取って行動選択を決定する関数（戦略）」と定義され (What is a policy in reinforcement learning? [closed] - Stack Overflow)、エージェントの行動原理そのものを指す。一方Knowledgeは、専門家システム研究での知識ベース、あるいは知識表現と推論の分離という考え方に対応し (Expert system - Wikipedia)、AIの性能は内部に蓄積された知識とその利用法に大きく依存することが知られている。Mechanismについては、計算論的神経科学やアルゴリズム論の観点から、問題解決のプロセス（探索アルゴリズムや推論手順）の違いが性能に与える影響が数多く検証されている。Weiらの研究 ([2201.11903] Chain-of-Thought Prompting Elicits Reasoning in Large Language Models)に見られるように、LLMにおいて推論過程を明示化するだけで応答精度が飛躍的に向上するケースが報告されており、メカニズムへの介入はKnowledgeやPolicyとは独立に効果を持ちうる。以上より、PKMの三要素はいずれもAIの振る舞いを論じる上で意義のある独立軸と言える。
さらに、先行研究には明示的にこれら三者を組み合わせた分析枠組みは見当たらないものの、その必要性を示唆する議論が見られる。例えば、あるモデルの性能向上策が「データ拡張（知識の付与）」によるものか「モデルアーキテクチャ改善（機構の改善）」によるものか、あるいは「目的関数の変更（方針の変更）」によるものかを区別せずに論じると、議論が混乱する恐れがある。PKMフレームワークはこの点で整理に寄与し、AIカスタム設定の効果分析においても、ユーザがどの要素を調整しているのかを切り分けて評価する助けとなる。例えば、ユーザが「応答をフレンドリーにする」設定を行った場合、それはKnowledgeではなくPolicyへの介入であり、知識そのものは変化しないため回答の正確さには直接影響しないが、回答表現の方針のみが変化すると予想される。逆に「専門用語の辞書を読み込ませる」設定はKnowledgeの強化であり、適切に機能すれば事実性や専門性が向上するが、それ自体は方針と無関係である。このように、PKMによってカスタム設定の内容を分類することは、その効果や限界を予測・分析する上で理にかなっていると言えよう。
他方で、PKM要素間の相互依存性にも留意が必要である。一部の研究は、モデルの**ポリシー（例：安全規制）**を強化しすぎると、結果的に回答の網羅性や正確性が損なわれる可能性を指摘している ()。つまりPolicyとKnowledge/Mechanismの間にはトレードオフが潜在する場合がある。この点も含め、次節以降でAIカスタム設定に関連する心理効果や性能面の知見を踏まえて議論する。
2. Policy・Knowledge・Mechanism分解の支持根拠: 次に、AIとのインタラクションにおいてこの三要素分解が支持される実証的知見について考察する。ユーザがAIシステムに関与できる局面は多岐にわたるが、それぞれPKMのいずれかにマッピングできる。
まず**Policy（方針）に関しては、ユーザが設定可能な要素として最も直感的に理解しやすい。インターフェース上の「フィルタ設定」や「出力スタイル選択」は典型的なポリシー調整である。Vaccaroらの研究では、SNSのフィード表示アルゴリズムに対しユーザがスライダで優先度を設定できるUIを提供した実験を行っている (The Illusion of Control: Placebo Effects of Control Settings)。興味深いことに、この実験では実際には機能しない（ランダムに動作する）制御UIであっても、存在するだけでユーザ満足度が有意に向上するという結果が得られた (The Illusion of Control: Placebo Effects of Control Settings)。これはユーザが「自分で方針を設定できている」**と感じること自体に満足感を抱くことを示し、裏を返せばPolicy要素はKnowledgeやMechanismと独立にユーザ体験に影響を与えうることを意味する。
一方、**Knowledge（知識）**については、ユーザが直接干渉できるケース（例えば追加のデータ提供や訂正）は限定的だが、AIの持つ知識範囲がユーザ信頼や対話継続性に与える影響は大きい。知識不足による誤答はどんな優れた推論機構でも避けられないため、ユーザはカスタム設定として外部知識ベースを接続したり、独自の訓練データでファインチューニングしたりすることが考えられる。このようなKnowledge面の調整は、MechanismやPolicyの設定とは異なるアプローチであり、例えば生成モデルにリアルタイムでFAQデータベースを参照させる機能は、モデルのPolicy（生成ルール）は変えずにKnowledgeアクセスを強化する例と言える。
最後に**Mechanism（機構）**であるが、これはユーザにとっては直接意識しにくい部分である。とはいえ近年、プロンプトエンジニアリングの分野でユーザがモデルの推論プロセスに影響を与える工夫が数多く報告されている。前述のチェイン・オブ・ソートプロンプトはその代表で、モデルに答えをすぐ出させず一旦思考させることで、計算問題や常識推論の正答率が飛躍的に上がる ([2201.11903] Chain-of-Thought Prompting Elicits Reasoning in Large Language Models)。この場合ユーザはモデルのKnowledgeや高レベルなPolicyを変更したのではなく、**Mechanism（思考プロセス）**に介入して望ましい振る舞いを引き出したことになる。同様に、逐次対話でヒントを与えるようなユーザの振る舞いも、モデルの内部推論を誘導するMechanism調整とみなせる。このような実証例は、Policy・Knowledge・Mechanismの観点それぞれでユーザがAIの動作に影響を及ぼし得ることを示唆しており、ひいてはPKM分解の有用性を裏付ける。
3. カスタム設定に伴う心理的満足度と認知バイアス: AIのカスタム設定は客観的な性能だけでなく、ユーザの主観的体験や認知にも大きく影響する。文献レビューにより、特に以下のような心理的バイアスや効果がカスタム設定利用時に生じ得ることが明らかになった。
コントロールの錯覚（Illusion of Control）: ユーザが設定を調整できる場合、たとえその設定が実際の結果に寄与していなくとも、ユーザは「自分がシステムを制御できている」という感覚を得やすい (The Illusion of Control: Placebo Effects of Control Settings)。前述のVaccaroらの実験では、無効な設定UIにも関わらずユーザ満足度が向上したが、さらにインタビュー調査では、ユーザが予想と異なる出力に直面した際に「自分の設定のせいかもしれない」といった説明を行い、システムが正常に機能していると信じ続けようとする傾向が観察された (The Illusion of Control: Placebo Effects of Control Settings) (The Illusion of Control: Placebo Effects of Control Settings)。これは心理学でいう確証バイアスや認知的不協和低減のメカニズムと一致し、ユーザは一度自分が関与した設定に対しては、その有効性を信じやすくなる。Dietvorstらの研究でも、予測アルゴリズムにわずかながら手修正を加えられるようにすると、人々がそのアルゴリズムを信頼して使いやすくなり（＝アルゴリズム忌避を克服でき）、満足度が向上することが示されている (Overcoming Algorithm Aversion: People Will Use Imperfect Algorithms If They Can (Even Slightly) Modify Them)。この効果はユーザが実際に大きな制御権を得ることなくして生じており、まさに**「わずかなコントロールでも人は満足する」**というIllusion of Controlの強力さを示す。
IKEA効果: ユーザがシステム設定のカスタマイズに自ら労力を払った場合、そのシステムに対する愛着や評価が高まる現象は、行動経済学でIKEA効果と呼ばれる (Microsoft Word - 11-091 norton mochon ariely.doc)。Nortonらの研究 (Microsoft Word - 11-091 norton mochon ariely.doc)によれば、人は家具の組み立てなど自分で手をかけた対象に対し、市販の完成品以上の価値を感じる傾向があり、これは製品だけでなくサービスやソフトウェアにも当てはまると考えられる。AIのカスタム設定においても、ユーザが時間をかけてプロンプトや設定を調整し自分好みの応答を引き出せるようになった場合、そのAIシステムへの愛着や評価が純粋な性能以上に高まる可能性がある。例えば、自分専用にチューニングしたチャットボットを「まるで自分が育てたAI」のように感じ、たとえ客観的には他の汎用モデルと大差なくとも主観的満足度が高くなることが予想される。IKEA効果は成功体験が伴う場合に顕著である (Microsoft Word - 11-091 norton mochon ariely.doc)ため、カスタム設定がうまく動作し望ましい出力が得られれば得られるほど、ユーザはそのAI設定を手放せなくなるだろう。
確証バイアス: 前述のIllusion of Controlの文脈でも触れたように、ユーザは自分が設定に関与した場合、その選択を正当化する情報に偏って注目する傾向がある。AIの応答に多少の誤りや不満な点があっても、「これは自分の設定意図の範囲内だ」「使いこなせていないだけかもしれない」といった解釈をし、設定自体の有用性を疑いにくくなる (The Illusion of Control: Placebo Effects of Control Settings)。この確証バイアスにより、ユーザは自ら行ったカスタム設定の効果を過大評価しがちである。結果として、本来であれば客観的性能を比較検証してデフォルト設定に戻した方が良い場合であっても、ユーザは自分の設定を信じ続けてしまう可能性がある。また、人は自分の期待に沿う出力例を記憶に留めやすく、期待を裏切る事例は「たまたま上手く動かなかっただけ」と捉える傾向も指摘されている (The Illusion of Control: Placebo Effects of Control Settings)。AIシステムの評価において、この確証バイアスはユーザ実験の結果解釈を歪める要因ともなりうるため、注意が必要である。
サンクコスト効果: ユーザがカスタム設定に時間や労力を投資した場合、その「投資」が無駄になってしまうことを避けようとする心理が働く。行動経済学でいうサンクコスト効果であり、一度費やしたコスト（時間・労力）があると、たとえその後の選択肢が非合理的でも元を取ろうとして継続してしまう傾向である (Beyond Habit: The Role of Sunk Costs on Developing Automatic IS Use Behaviors)。AIのカスタム設定においても、ユーザが細かなチューニングに多大な時間をかけた場合、それを捨ててデフォルト設定や他のモデルに乗り換える意思決定が難しくなる可能性がある。Chenらの情報システム研究では、システムの使い込みや設定調整に費やした努力が利用継続（自動的な使用行動の固定化）を促進することが報告されている (Beyond Habit: The Role of Sunk Costs on Developing Automatic IS Use Behaviors)。このようにサンクコスト効果が働くと、たとえカスタム設定による性能向上が限定的であっても、ユーザは「あれだけ手間をかけたのだから有効活用しなければ」と感じてその設定を使い続けるだろう。サンクコスト効果自体は必ずしも悪いことではないが（ユーザエンゲージメントを高める面もある）、客観的な再評価を妨げる点で、技術受容やユーザテストの解釈に影を落とす可能性がある。
以上のように、AIカスタム設定にはユーザの認知バイアスが深く関与する。これらのバイアスは、一方ではユーザ満足度やシステム受容性を高めるポジティブな効果も有するが、他方では客観的な性能評価や安全な運用を阻害するリスクも孕む。開発者にとっては、ユーザが感じるコントロール感や愛着を適度に満たしつつ、誤った確信や非合理な固執を招かないようなバランスが重要である。
4. モデル素の性能重視アプローチの検討: 最後に、ユーザによるカスタム設定を行わずAIモデルのデフォルト性能（素の能力）に任せるアプローチについて、その利点と欠点を文献に基づき考察する。利点としてまず挙げられるのは、モデル本来の汎用性能や客観的指標での精度を最大限発揮できる可能性がある点である。大規模言語モデルは膨大なデータで事前学習されており、ユーザが下手に介入しなくても高い言語生成能力を持っている。実際、OpenAIのGPT-3といったモデルは多様なタスクで有用な結果を生成できるが、直接利用すると有害な発言や事実誤認も含むため、InstructGPTのように追加調整（Policy付与）された ()。しかし、この調整により一部の客観的NLPベンチマークでの性能がわずかに低下するという報告もある ()。すなわち、モデルの生の性能を重視するか、ポリシー調整によるユーザニーズ適合を重視するかでトレードオフが生じ得る。
モデル素の性能重視アプローチのメリットとしては、シンプルさと一貫性がある。ユーザごとに異なる設定を適用しないため、出力のぶれが少なく、全体としての評価やデバッグが容易である。また、上述したユーザ側の認知バイアスの影響を排除できるため、システムの客観評価や改善ループを回しやすい。例えばユーザに自由なカスタムを許すと、問題が起きた際にそれがモデル自体の欠陥なのかユーザ設定によるものか判別しにくくなるが、デフォルト設定固定であれば問題の原因分析は単純になる。
一方、欠点としてはユーザの多様な要求に対応しきれない可能性があることが挙げられる。モデルがいくら高性能でも、ユーザごとに望む応答のスタイルや重視する価値（安全性と表現の自由度のバランスなど）は異なる。カスタム設定を一切許さないと、ユーザは提供された固定の人格・口調のAIと対話するしかなく、不満を感じる場合もある。また、素のモデルは高い能力を持つ反面、安全策が施されていなければ不適切発言や偏見を含む出力を生む危険がある ()。したがって実運用上は、完全にデフォルトのモデルをそのまま使うことは難しく、何らかのポリシー調整（例えばフィルタリングやスクリプトによる後処理）が必要になる。Anthropic社の報告では、モデルに適切な原則を与え調教することで、従来の人手調整なしでも有害出力を減らしつつ有用性を維持できることが示されている (Claude’s Constitution \ Anthropic)。これは上手く設計されたPolicy付与によってトレードオフを最小化できる可能性を示す。
総合すると、モデル素の性能を重視するアプローチは**「客観性能の最大化とシステム簡素化」という利点がある一方で、「ユーザ毎の主観的最適化や安全配慮の不足」という欠点がある。逆にカスタム設定アプローチは、ユーザ満足度や安全性を高められる利点があるが、主観評価に影響されやすく客観性能の評価や比較が難しくなる恐れがある。信頼性の高いシステム運用には、両者のバランスを取ることが重要であり、必要に応じてデフォルトの強力なモデルとユーザ調整可能なインターフェース**を組み合わせるハイブリッド戦略も考えられる。
結論
本稿では、AIカスタム設定におけるPKM（Policy–Knowledge–Mechanism）フレームワークの適用可能性と、カスタム設定時のユーザ心理に作用する認知バイアスについて文献レビューを通じて考察した。PKMフレームワークはAIの挙動要因を三要素に整理する独自の試みであるが、その考え方はシステム設計やAI研究の知見と大筋で整合している。Policy（方針）はシステムの出力を方向付ける原則として古くから重要視され ([PDF] Distributed Policy Specification and Interpretation with Classified ...)、Knowledge（知識）はAI性能の土台であり (Expert system - Wikipedia)、Mechanism（機構）は知識と方針を具体的な振る舞いに変換するプロセスである。既存研究の蓄積から、これら各要素が独立にAIの性能やユーザ体験に影響を及ぼすことが示唆されており ([2201.11903] Chain-of-Thought Prompting Elicits Reasoning in Large Language Models) (The Illusion of Control: Placebo Effects of Control Settings)、PKMによる分析枠組みは妥当性が高いと評価できる。
また、AIとのインタラクションにおいてユーザが介入できるポイントは、このPolicy・Knowledge・Mechanismに分類でき、各次元での調整がそれぞれ異なる効果をもたらすことを確認した。ユーザのカスタム設定はしばしば心理的満足度を高めるが、その背景にはコントロール錯覚やIKEA効果、確証バイアス、サンクコスト効果といった人間の認知バイアスが存在する (The Illusion of Control: Placebo Effects of Control Settings) (Microsoft Word - 11-091 norton mochon ariely.doc) (The Illusion of Control: Placebo Effects of Control Settings) (Beyond Habit: The Role of Sunk Costs on Developing Automatic IS Use Behaviors)。これらのバイアスはユーザエンゲージメント向上に寄与する一方で、AIシステムの客観的評価を困難にし、場合によっては不適切な設定への固執を生むリスクもある。
さらに、モデルの素の性能を尊重するアプローチと、ユーザによる設定最適化を取り入れるアプローチのメリット・デメリットを比較した。文献によれば、適切なポリシー調整によりモデルの有用性と安全性を両立できる場合もある (Claude’s Constitution \ Anthropic)が、過度の調整は一部タスクで性能低下を招く可能性がある ()。一方でユーザの主観的関与を排除すれば評価は簡易になるが、ユーザ満足度や柔軟性が損なわれる恐れがある。従って、実践的には高性能なデフォルトモデルを用意しつつ、ユーザが安全かつ直感的にカスタム可能なインターフェースを設計し、必要に応じてリセットや比較検証を容易にする仕組みが望ましい。
本研究の制限として、PKMフレームワーク自体の有効性を実証するための独自実験は行っていない点が挙げられる。今後は、本稿で整理した知見に基づき、実際のユーザを対象とした実験やケーススタディを通じて、PKMによる分析がどのようにAIカスタム設定の最適化やユーザ教育に役立つかを検証する必要がある。また、認知バイアスの影響についても、長期的なユーザ体験やAI活用効率への影響を定量的に評価することが望まれる。こうした発展的研究により、AIシステムの柔軟なカスタマイズと信頼性の高い運用との両立に向けた包括的な指針が得られるだろう。
