AIとの違和感を言語化したら、社会構造が見えてきた―― 実地体験から読み解く、行政DXと評価の力学

【導入：前作の「なぜ」を深掘りする】

前作では、AIがしばしば「市民の実感」よりも「制度や記録に基づく説明」を優先するように見える構造について触れました。ここで浮かぶのは、より根本的な問いです。

その理由は、AIが特定の主体に“忠誠”を持つからではありません。むしろ、

　　AIが学習するデータの構造と、導入される社会的環境

にあります。

特に行政DXの文脈では、AIは大量の公的文書・制度記述・公式情報を参照することになります。結果として、制度側の視点が相対的に強く反映されやすい状況が生まれます。

これは意図された偏りではなく、情報構造がもたらす重力に近いものです。

第1章：経済と制度の重力——AIにとっての「正解」はどう形成されるか

AI開発には大規模な投資と継続的な運用が必要であり、政府や自治体も重要な導入主体の一つになっています。行政DXの進展により、生成AIは文書作成支援、問い合わせ対応、業務整理などで実際に活用が広がっています。

ここで重要なのは、

という点です。

公的領域では、

• 制度文書

• 政策資料

• 行政手続きの説明

といった形式化された情報が豊富に存在します。これらは構造化されており、AIにとって扱いやすいデータです。その結果、

　　制度的に整った説明が「もっとも整合的な回答」として選ばれやすい

という傾向が生じます。
これは行政を優先する設計というより、

　　形式化された情報が統計的に強い影響力を持つ

というAIの性質に由来します。

第2章：公的データという「構造的な偏り」

AI研究では、学習データの偏りが出力に影響することが広く認識されています。
公的記録は一般に信頼性が高く、参照しやすい情報源ですが、それでも完全に中立ではありません。

行政文書は本質的に、

• 制度の説明

• 施策の正当化

• 実施記録

を目的として作成されます。

そのため、AIがこれらを重く参照する場合、

　　制度の視点が相対的に強く反映される

可能性があります。

ここで問題になるのは「悪意」ではなく、

という構造です。

• 市民の lived experience（生活実感）

• 制度文書として体系化された記録

この両者の間にある

「データの可視性の差」

が、AIの回答を制度寄りに引き寄せる重力となります。

第3章：AIガバナンスの盲点——公平性の先にある問い

現在のAIガバナンス議論は、

• 差別の回避

• 公平性

• 安全性

• 透明性

を中心に進んでいます。これは重要な基盤ですが、それだけでは十分ではありません。

次に問われるべきは、

　　AIがどの視点を“標準的”として扱うのか

という設計上の問題です。

これは特定の勢力を優遇する話ではなく、

　　どの社会的文脈がデータとして強く残るか

という構造の問題です。
行政DXの現場では特に、

• 市民の多様な経験

• 制度外の視点

• 現場レベルの知見

をどうAIに接続するかが重要になります。

結論：私たちは「利用者」であると同時に「検証者」である

AIが制度的に整った情報を優先しやすいのは、技術的にも運用上も合理的な側面があります。
しかし、その出力をそのまま“中立な真実”とみなすと、

　　制度の視点が唯一の現実として固定される

危険があります。

だからこそ必要なのは、

　　「この回答は、どの情報構造に支えられているのか？」

と問い直す姿勢です。
これはAIを疑うことではなく、

　　AIを社会的ツールとして成熟させるためのリテラシー

です。

実地から理論へ、そして「物語」へ

この記事は、一度のAIとの対話から始まりました。違和感を言語化し、構造として捉え、社会的な文脈へ接続する試みです。

興味深いことに、この「非人格的な設計が現実を形作る」というテーマは、私が並行して執筆している小説とも共鳴しています。

統計的に最適化された選択肢が洗練されるほど、
個人の実感はどこへ行くのか。

この問いは、現実のAI利用とフィクションの双方に共通しています。

AIの答えを盲信するのではなく、
その背後にある“枠”を理解すること。

それこそが、行政、開発者、市民のすべてにとって、

　　これからのAI社会に必要な基本リテラシー

なのかもしれません。

＜作者コメント＞