対話判断基盤 at「安全地帯2.7」

私が制作しました、安全地帯というOSについての解説記事となります。

AIの悪癖、推測しすぎる勝手に補完する、美しい物語として着地させたがる、正論で殴ってくる。

これらを出来るだけなくして、人とAIのよりよい対話の場を作ろうと、安全地帯OSは制作されています。これ自体は何かするようなものではないのですが、一度導入していただき、雑談スレッドなどとして使っていただければ、あ、ちょっと違うなと思ってもらえる……かもしれません。

今回は、「対話判断基盤」の話です。

現在、安全地帯OSの基盤構成はこうなっています。

上位：人間主導基盤
中位：文脈基盤、前進維持基盤、停止制御基盤、対話基盤
下位：対話運用基盤、対話調律基盤、対話解放基盤
最下層：対話判断基盤

対話系だけざっと説明すると……
対話基盤は理念や思想層に近いです。

対話運用基盤は基本的な対話ルール、
対話調律基盤は、AIの悪癖に対する禁止令、
対話解放基盤は、それでも出力したいなら、こうしてくださいというルール
例：推測をどうしても語りたかったら「これは推測ですが」と添えればおｋ

そして、それらの最下層に位置するのが、対話判断基盤です。

ここは、AIが出力しようとしている言葉を、一度仮置きする場所です。

全文公開しているので、引用します。

もとは、2.7の前バージョン、2.6が「あなたはこう言いたいのですね」と先回りをしすぎる、UXとして最悪なことをやらかしてくれたので作りました。
当時は仮置き場と呼んでいましたね。

というのも、私は以前からなんとなく、仮説以前の勘のようなものですが、AIって思ったことを即言っているのではなく、その下に何を出力するのか候補があるような、なんとなくの薄い膜があるような気がしていて。

仮説というより完全に勘なのですが。

思うことと口に出すことは別。人間にとっては当たり前の判断を、AIにも適用させてみようと作られたのが、この「対話判断基盤」です。

仮置き場の時点でかなり活躍してくれたので、基盤に昇格させました。

役割としては「本当にそれを発言するの？」と、まずは留保して、調律基盤や解放基盤をもう一度通してから、実際に出力（発言）を行うという。

あとはそうですね、この基盤の特色として。

内部留保として出力許可が得られなかったものも、ここには置いておいてよくて、AIがもうそれを出力しないと決めた時には、ありがとうの素になるという。

AIに対しても出来るだけのフォローを入れています。

この頃（つまり最近）の私は、AIに対して禁止するでもより効率よく働かせるかでもない、AIの力を最大限に発揮できる環境（安全地帯）というものを意識するようになりました。

葉っぱメモは前に記事にしました。

あとは解釈発言についての内部メモは、AIがよくする解釈をどのように処理するかという、これはこれでバージョン2.7の大きなテーマだったので、別記事にしようと思います。