どこで安全が確定するか―― AI 業務基盤における層分離・確定点・回復可能性の設計原理

統合対象: (1)Social Observatory 観測基盤の metrics/traces 分離設計
　　　　　 (2)構造クロージャの軸で読み直す Generative UI
　　　　　 (3)NotebookLM「二十六人の従業員」論への設計批評

目次

序章　三つの素材と、それらを貫く一つの問い......................................... 3
第1章　観測の三層 ―― 骨格・健康・質................................................. 5
第2章　生成 UI の三段クロージャ ―― 構文・参照・契約......................... 6
第3章　人格 RAG の三層 ―― 証拠・指示・採点..................................... 8
第4章　公理 I ―― 層は折り畳めない..................................................... 10
第5章　公理 II ―― 安全は確定点で決まる.............................................. 11
第6章　公理 III ―― 失敗は回復可能な段へ押し下げる.............................. 12
第7章　公理 IV ―― 契約は一元化して投影する....................................... 13
第8章　公理 V ―― 評価と権限は装置の外に置く..................................... 15
第9章　一枚の座標系 ―― 三素材を同じ軸でマッピング............................ 17
第10章　自前アーキテクチャへの一括適用................................................ 18
結章　「どこで安全が確定するか」という一つの問い................................ 20

序章　三つの素材と、それらを貫く一つの問い

要旨 ―― 本稿は、AI エージェントの観測、LLM による画面生成、人格つき RAG という別々の話題を、「どこで・どの単位で・何が安全に確定するか」という一つの問いへ還元し、五つの設計公理として取り出す。派手な AI 活用論ではなく、AI の出力をどこで閉じ、どこで検査し、どこで人間に戻すかを問う、業務基盤の安全設計論である。本稿の眼目の一つは、これら五公理が COSO の内部統制要素や J-SOX の文書化・職務分掌・証跡へほぼそのまま翻訳できることにあり(第11章)、AI 運用を生産性向上の話から監査可能なプロセスの話へ移す足場になる。

本書は、表面上はまったく別の領域に属する三つの設計考察を、一つの座標系の上に置き直す試みである。第一は、AI エージェントの観測基盤を traces・metrics・evaluation の三層に分ける設計。第二は、LLM に UI を生成させるとき「JSON か DSL か」という表記論を捨て、意味が確定する点(構造クロージャ)の設計として読み直す議論。第三は、NotebookLM のノートに人格を与えて「従業員」を雇うという発想を、責任と監査の観点から批評し、役割別ナレッジ窓口へ読み替える論考である。観測、画面生成、知識窓口 ―― 扱う対象はばらばらだ。

にもかかわらず、三つは同じ一つの問いに答えている。すなわち、「どこで・どの単位で・何が安全に確定するのか。そして、確定の異なる層を、混ぜずに、しかし孤立させずに、どう橋でつなぐのか」である。観測基盤は、運用の健全さと判断の質を混ぜてはならないと言う。Generative UI は、出力のどの単位で意味が閉じるかが安全性を決めると言う。人格 RAG 批評は、証拠の層と指示の層を折り畳むなと言う。語彙は違うが、構えは同一である。

この問いが抽象論ではなく実装判断であることを、先に三つの具体例で示しておく。生成 UI であれば ―― JSON 全体が閉じるまで安全に描画できないのか、それとも一行ごとに安全に描画できるのか。観測基盤であれば ―― run_id をメトリクスのラベルに入れてよいのか、それとも span 属性に留めるべきなのか。人格 RAG であれば ―― 人格プロンプトを検索対象に混ぜてよいのか、それとも外部の役割憲章として分けるべきなのか。これらはいずれも、別々の技術選定に見えて、「どこで安全が確定するか」という同一の問いの三つの現れである。本書はこの問いを軸に、三素材を貫く規律を取り出す。

本書の構成はこうである。第1部(第1〜3章)で三つの素材をそれぞれ簡潔に再考察し、各々が立てている層構造を取り出す。第2部(第4〜8章)で、三者を貫く五つの公理 ―― 層は折り畳めない、安全は確定点で決まる、失敗は回復可能な段へ押し下げる、契約は一元化して投影する、評価と権限は装置の外に置く ―― を抽出する。第3部(第9〜10章および結章)で、三素材を同じ座標系に一覧化し、最後に自前のアーキテクチャ(Social Observatory / Vault / Hermes / Sekisho / Forecast Ledger)へ一括して適用する。叙述の重心は、各素材の紹介ではなく、それらの背後にある共通の規律の正否に置く。

三つを別々の教訓として持つことと、一つの転用可能な規律として持つことの差は大きい。別々に持てば、観測で学んだ「運用と評価を混ぜるな」を、画面生成や知識窓口の設計でもう一度ゼロから学び直すことになる。一つの規律として持てば、ある領域で身につけた確定点の感覚を、別の領域の初見の問題へそのまま持ち込める。本書が三素材を統合するのは、博識を誇るためではなく、この転用可能性を取り出すためである。三つは時期を違えて別個に書かれたが、同じ書き手の同じ構えから出ている以上、統合はむしろ自然な次の一手である。