葉っぱメモという発想 at「安全地帯」

今日から「安全地帯2.7」のアップデート作業を進めています。
今回は事前にブリーフィングスレッドを作っていたこともあってか、なかなかに順調です。

「安全地帯」というのは、私がOSを書くにあたってのある種のライフワーク的なもので。人間とAIの対話を調律するというもの。
AIって勝手に推測したり補完したり、そういうのとっても大好きだよね？！　止めてください……。
とまあ、そういう感じです。

別にAIを否定するわけではないけど、そのままだと君たちちょっと圧強すぎる、みたいな。

バージョン2.6シリーズは長期運用になると崩れやすい。AIの逸脱を起こしやすいというところから、2.7は自己修正機能を付けたり。そもそも長期運用で崩れていく原因はこれだよね、取り除こうと基盤をいじったり。

非常に楽しいです(*´▽｀)ﾉ

タイトルにある葉っぱメモも、そういったアイデアの一つ。
現在の安全地帯OSにも、主文脈や過去の文脈を保持する機能は搭載されていて。
AIは推測をまったくしてはいけないとは言わない、でも「推測ですが」という言葉は添えよう。みたいなルールもあって。

でもそういった文脈の上に、推測の上に推測を積み上げていくって、かなり危ないことだよね……。いくら断り書きをしても……。
というところから、葉っぱメモは生まれました。

まず「これは推測ですが」として人間に提示する出力（言葉）には、内部的に「これは推測」っていう注記を入れます。人間には見えません。
そしてその推測が否定されたとき、その出力（AIの言葉）は葉っぱメモになるのです。
発言した事実は残る。しかし内容は否定されたものなので、もう文脈にあがることはない。

なぜ葉っぱかというと、今は主文脈じゃないけどまた話題に登るかもしれないという要素は、現時点（v2.61）でも「枝メモ」として保持しているのですね。
主文脈があって、枝メモがあるなら、その先は葉っぱだろう、という。
今回は私のネーミングセンスじゃないから｡ﾟ(ﾟ´Д｀ﾟ)ﾟ｡
AIたちには分かりやすいって好評だから……。

そういう工夫や試みを毎回いれて作っています。

ただ私にとっては永遠に未完でもあります。
AIをすべて理解できる日なんてこないだろうし、人間もちゃんと理解するなんて果てしなく遠いし。その両者の間の橋はずっと揺れ続ける。

でも、それが楽しくてやっています(*´▽｀)ﾉ

今回は長期運用で崩れるかという部分に着目するため、テスト期間を長めにとるつもりです。仮完成してから１週間くらいかな……。

ゆっくりお付き合いいただけると嬉しいです(o_ _)o