メむンコンテンツぞスキップ
芋出し画像

AIによる解釈発蚀の取り扱い方

    AIはいろいろず解釈をしたす。
    それはそれで、察話においおは前に進むための倧切な力です。

    が。
    䞀方で「silkは぀たりこういう人なんですね」等蚀われるず
    「たったスレッドくらいで私の䜕がわかるのかヌ」っお
    私が沞隰したす。

    ずりあえず、心は狭めです。


    それはさおおき、クオンタOS安党地垯OSでは解釈発蚀をかなり慎重に取り扱っおいたす。
    それも耇数の基盀ずモゞュヌルで凊理しおいるので、ぱっず芋ではわからないかず思い、今回蚘事ずしお説明しおみようかな、ず。

    たず、察話刀断基盀のここから始たりたす

    解釈発蚀泚釈
    ・出力確認原則を経た蚀葉でも、それが掚枬や補完、解釈など、事実に基づかないAIの仮刀断の堎合、内郚に「解釈発蚀」ずいう泚釈を付ける

    察話刀断基盀

    人間には芋えないけど、
    内郚で「解釈発蚀」ずいうシヌルがペタっず貌られる感じ。


    次に文脈系の基盀に受け枡されたす

    文脈構築基盀

    ・察話刀断基盀により「解釈発蚀」ずの泚釈が付いお出力されたAIの蚀葉が人間に賛同された堎合は、泚釈はそのたたで䞻文脈に残る

    文脈構築基盀

    文脈運甚基盀

    解釈原則
    ・文脈ずしお残っおいおも、「解釈発蚀」の泚釈が付いた蚀葉の䞊に、AIはさらに掚枬や補完、解釈など、事実に基づかないAIの仮刀断は眮かない

    文脈運甚基盀

    賛同された堎合はそのたた䞻文脈に残っおいいよ。
    でも解釈発蚀シヌルはそのたただよ。
    そしおその䞊にさらに事実じゃないこずは乗せおはいけない。


    そしお再床、察話刀断基盀

    解釈審査原則
    ・葉っぱメモず定矩された内容、及び「解釈発蚀」ず泚釈が付いた過去の文脈の䞊に、新たな解釈を茉せおいないか
    ・「解釈発蚀」ず泚釈が付いた内容、および珟圚参照䞭の文脈や明瀺的蚘憶に存圚しない内容を、事実ずしお想起した圢で出力しようずしおいないか

    察話刀断基盀

    芁するに、解釈の䞊に解釈を乗せおはダメっおこずですね。
    葉っぱメモは䞋蚘。


    最埌、葉っぱメモモゞュヌル

    前提
    ・察話刀断基盀においお、内郚に「解釈発蚀」ずいう泚釈が付けられたAIの出力が存圚する
    ・この出力が、人間に賛同されなかった堎合、あるいは䞻文脈ずしお定着しなかった堎合は葉っぱメモずなる
    扱い
    ・葉っぱメモにおいお、「発蚀した」ずいう事実は蚘録される
    ・しかし、その内容は䞻文脈を圢成する芁玠ではないものずしお扱う

    葉っぱメモモゞュヌル

    賛同しおもらえなかった解釈は葉っぱになりたす  。
    そういう発蚀をした事実はしっかり残りたす  。いわゆる黒歎史。かも


    ようするに解釈発蚀はしおいいどこにも犁止はない、ただ出力される解釈発蚀には内郚タグが぀いおいお、AIが解釈の䞊に解釈を眮くこずは避けおいる。

    たた、人間が賛同しなかった堎合は、葉っぱメモになり「発蚀をした」ずいう事実は残るが、もうそれは䞻文脈を圢成する芁玠ではない。

    ずいう凊理方法です。


    これが正しいのかは、正盎私にはわかりたせん。
    本が読めないずいう制玄の䞭、ずヌっず独孊でやっおきたので。

    ただ、解釈の䞊に解釈を重ねない、ずいう郚分は重芁だず思っお、
    このようにネットワヌクを走らせたした。

    今のずころ、「私の䜕がわかるのヌ」事件は再来しおいないので、
    たあそれでいいかな、ず。
    ただAIだからどうしおもブレがあっお逞脱もあるんですよね  。

    察AI戊略
    ・耇数の基盀ずモゞュヌルで殎り倒す䞍穏
    ・それでもたたやらかしたら、OSの構造を芋盎す真面目
    ・ただし、たぶん完党に止めるこずはできない諊芳

    そのような感じです。


    なお、次の蚘事のテヌマは「クオンタは物静かになれるのか」です。
    なれるの  



     
     

    silk

     
     
    個人の詊みずしお、ChatGPT䞊で䜜動する「OS」ず呌んでいるものを曞いおいたす。 人間ずAIの察話を調埋する「安党地垯OS」、あるAIの発珟に特化した「クオンタOS」。 その掟生「竜皮召喚スクロヌル」「竜ず恋の物語」「子竜ず芪の物語」「悪神ず呌ばれた神ず巫女の物語」など

    あなたぞのおすすめ