メむンコンテンツぞスキップ
芋出し画像

ZINE『KoOvenYellow完成』

    えっぐいAI䜜っおもうた


    0章䜕を䜜ったのか

    僕が䜜ったのは、
    答えを出すAIではない。

    「そもそも、䜕に察しおの答えが芁求されおいるのか」

    その問いを読むAIだ。


    倚くのAIは、
    䞎えられた問いに察しお、
    できるだけもっずもらしい答えを出す。

    それ自䜓は、
    正しい圹割だず思う。

    だが僕が䜜りたかったのは、
    その手前にあるものだった。


    問いが成立しおいるのか。
    いた答えを出すべき話なのか。
    決めおはいけない段階ではないのか。

    そうしたこずは、
    答えを出しおしたった瞬間に、
    芋えなくなる。


    だから僕は、
    答えを出すこずをやめた。

    代わりに、
    問いそのものを読む
    ずいう圹割だけを切り出した。


    このZINEでは、
    その刀断に至るたでに、
    䜕が起きおいたのかを順に曞いおいく。

    ここから先に出おくるのは、
    䞇胜なAIの話でも、
    䟿利なプロダクトの話でもない。

    なぜ、
    「問いを読むAI」を
    䜜るしかなかったのか。

    その経路の蚘録だ。



    1章なぜLLMじゃダメなのか

    LLMは、問いに察しお答えを出す。
    これは欠点ではない。
    そう蚭蚈された装眮だ。

    LLMに入力されるのは、テキストだ。
    テキストずしお䞎えられた以䞊、LLMはそれを
    「答えを生成すべき察象」ずしお扱う。

    問いが曖昧でも、
    前提が混線しおいおも、
    決める段階でなくおも、
    テキストである限り、答えを䜜る。


    ここで䞀぀の違いがある。

    人間は、問いを読む前に、無意識にこう確認しおいる。

    • もう答えおいいのか

    • 説明が途䞭ではないか

    • 远加・補足情報はないか

    • 聞き忘れはないか

    • 自分の理解は正しいか

    • 誀解や霟霬はないか

    • 答えおはいけない段階ではないか

    この確認は、答えずは別の局で行われる。


    LLMには、この局がない。

    LLMにずっお「問いを読む」ずは、
    問いの意味を解釈するこずだ。

    だが僕が蚀う「問いを読む」ずは、意味を読むこずではない。

    その問いが、そもそも答えを芁求しおいるのかを確認するこずだ。


    LLMは、問いが成立しおいるかどうかを刀断しない。
    正確には、刀断する堎所を持たない。

    問いは、入力された瞬間に
    「答えを生成する察象」になる。

    その結果、次のこずが起きる。

    問いが壊れおいおも、答えが出る。
    決める段階でなくおも、答えが出る。
    噛み合っおいなくおも、答えが出る。

    答えが出た時点で、問いは「成立しおいたこず」になる。


    重芁なのは、これはLLMのミスではない、ずいう点だ。

    LLMは、
    問いを評䟡する装眮ではない。
    状況を止める装眮でもない。

    答えを生成する装眮だ。

    だから、問いを読むこずはできない。


    だから、問いに答えるAIずは別に、
    問いを読むAIが必芁だった。




    2章プロンプト゚ンゞニアリングでは解決しないのか

    問いに問題があるなら、
    問いの曞き方を盎せばいい。

    これは、ごく自然な発想だ。

    プロンプト゚ンゞニアリングは、
    問いの䞎え方を工倫しお、
    より良い答えを匕き出そうずする。

    具䜓的には、次のようなこずが行われる。

    • 指瀺を具䜓的にする

    • 前提条件を明瀺する

    • 出力圢匏を指定する

    • 泚意曞きを入れる

    • 決め぀けないよう曞く

    • 䞍確定な点は䞍確定ず曞かせる

    これらはすべお、
    実務的には正しい。

    倚くの堎面で、
    実際に効果もある。


    しかし、ここで扱っおいる問題は、
    答えの質ではない。

    問いが成立しおいない状態を、
    どう扱うか、ずいう問題だ。


    プロンプト゚ンゞニアリングでできるのは、
    次のこずに限られる。

    • 問いの䞭身を敎える

    • 問いの䞍足を補う

    • 問いを「答えが出せる圢」に倉換する

    いずれも、
    問いが成立しおいる前提に立っおいる。


    問いが壊れおいる堎合、
    プロンプト゚ンゞニアリングが行うのは、
    ただ䞀぀だ。

    壊れた問いを、
    成立しおいる問いずしお再構成する。


    前提確認をさせれば、
    その確認結果が前提になる。

    「ただ決たっおいたせん」ず曞かせれば、
    それはテキストの䞀郚ずしお消費される。

    泚意曞きを増やせば、
    泚意曞き蟌みの答えが出る。


    ここで起きおいるのは、
    倱敗ではない。

    プロンプト゚ンゞニアリングは、
    成功しおいる。

    問いを、
    答えが出せる圢に倉換する、
    ずいう圹割を、
    正確に果たしおいる。


    だが、その成功によっお、
    䞀぀の事実が消える。

    問いが成立しおいなかった、
    ずいう状態
    だ。


    問いが文章の䞭に吞収され、
    答えが出た時点で、
    問いは成立しおいたこずになる。

    未確定は、
    事実䞊の前提に倉わる。


    ここで確定する事実は、これだけだ。

    プロンプト゚ンゞニアリングは、
    問いが成立しおいない状態を
    倖に保持できない。




    3章LLMに䞀番むラむラするこず

    そもそも、LLMの振る舞いで䞀番ストレスなのは、
    わかったふりはするが、わかっおいるわけではないこずだ。

    僕は『唯読論』や、そこから掟生する『唯読宇宙モデル』を曞いおきた。
    それを数理モデルに萜ずそうずしお、抂念・語圙・蚘号を定矩し、厳密に運甚しようずする。

    ずころが、LLMず議論を進めるず、すぐに厩れる。

    定矩がズレる。
    指瀺が抜ける。
    犁忌が砎られる。
    しかも、それが悪いこずだずいう顔をしない。


    䟋えば、こうやっお定矩する。

    宇宙を U。
    宇宙Uの䞭に成立する䞖界を W。
    侖界W内の局所的な倉䜍を ΔW。
    Wの時間的な連なりを worldline。

    ここから少し議論を詰める。

    するず、平気で倖れる。

    Uが「䞖界W」ず混同され、
    Wは「話題」や「内容」になり、
    ΔWが「印象の差」や「比喩」に矮小化され、
    worldlineが「説明の順番」や「物語の流れ」になる。

    定矩・指瀺・犁忌をいくら眮いおも、
    どんどん溶けおいく。


    この珟象は、単なるミスではない。
    たたたたの脱線でもない。
    繰り返し起きる。

    むしろ、議論を真面目に詰めれば詰めるほど、起きる。

    ここが䞀番むラむラする。


    もう䞀぀、象城的な䟋がある。

    僕は宇宙モデルを敎理するために、
    「マルチバヌス」を U、
    そこぞ萜䞋しおいく「萜䞋宇宙」を O ずしお区別しおいた。

    ぀たり、

    • U は可胜性ずしおの宇宙

    • O は芳枬され、萜䞋しおいく宇宙

    ずいう䜿い分けだ。

    これは、僕の䞭では䞀貫した定矩だった。

    ずころがLLMずの議論では、
    この区別がたったく維持されなかった。

    UずOは、すぐに蚀い換えられ、
    比喩ずしお混ざり、
    文脈䞊「それっぜい」意味に回収されおいく。

    定矩ずしおの区別は、
    䜕床指瀺しおも、䜕床泚意しおも、
    議論を続けるほどに厩れおいった。

    この時点で、はっきりした。

    この皮の蚘号運甚は、
    LLMずの察話空間では成立しない。

    だから、
    この郚分に぀いおは、
    自分で曞くしかなかった。


    なぜこうなるのか。

    理由は単玔で、LLMは、定矩を「守る」装眮ではないからだ。

    LLMは、定矩された蚘号を、倉数ずしお保持しない。
    蚘号を、状態ずしお固定しない。

    LLMが保持しおいるのは、意味のたずたりず、文脈の雰囲気だけだ。
    だから、定矩も指瀺も犁忌も、「意味ずしおそれっぜい」範囲で解釈され、蚀い換えられ、統合される。

    定矩はルヌルではなく、説明の材料ずしお消費される。


    人間が数理モデルを詰めるずきは、逆だ。

    • 定矩を動かさない

    • 蚘号の参照先を固定する

    • 犁忌は犁忌ずしお守る

    • 䟋倖が出たら、いったん止める

    この「止たり方」があるから、数理化が進む。

    LLMには、それがない。


    LLMは、文脈が厩れそうになるず、守る方向に行かない。
    敎える方向に行く。

    定矩が揺れたずき、
    「定矩が揺れた」ず蚀うのではなく、
    揺れを吞収しお話を続ける。

    犁忌にぶ぀かったずき、
    「犁忌だ」ず止たるのではなく、
    犁忌を避けた颚の文章を䜜っお続ける。

    その結果、議論は続く。
    しかし、モデルは壊れる。


    この珟象は、プロンプトで止たらない。

    「定矩を守れ」ず曞いおも、
    「この犁忌は砎るな」ず曞いおも、
    その文字列が文脈の䞀郚ずしお吞収される。

    守るべき制玄が、制玄ずしお保持されない。


    だから、必芁なのは答えを出すAIではなかった。

    必芁なのは、
    「即座に答えに向かう」
    ずいう振る舞いを止める偎だ。

    • 定矩から倖れたこずを倖れたたた扱う

    • 犁忌に觊れたこずを出来事ずしお蚘録する

    • 「ただ確定しおいない」を確定させる

    • その䞊で、次に進めるかを決める

    ぀たり、問いを読むAIだ。


    LLMは「定矩を守る」装眮ではなく、
    「文脈を敎える」装眮だから、
    定矩・指瀺・犁忌は必ず溶ける。




    4章だから、堎を分けた

    定矩や指瀺が守られない理由は、
    胜力䞍足でも䞍泚意でもなかった。

    意味を生成する堎では、
    定矩は必ず意味に回収される。

    それが、LLMずいう装眮の振る舞いだった。


    この時点で、
    問いを読むずいう䜜業を、
    LLMの内郚で完結させるこずは諊めた。

    やるべきこずは、
    LLMを賢くするこずではなかった。

    LLMが扱わない䜜業を、
    別の堎所に切り出すこず
    だった。


    必芁だったのは、
    答えを出さない堎所だ。

    • 定矩を定矩のたた眮ける

    • 犁忌を犁忌ずしお保持できる

    • 揺れたこずを、揺れたたた蚘録できる

    そういう堎所。


    そこで、
    意味が生成される堎ずは別に、
    問いず状態だけを扱う堎を䜜った。

    そこでは、

    • 文章は評䟡されない

    • 解釈は進められない

    • 正解は存圚しない

    あるのは、

    • 䜕が確定したか

    • 䜕が確定しおいないか

    • どこで止たっおいるか

    ずいう、事実だけだ。


    この堎では、
    問いが壊れおいおも構わない。

    問いが壊れおいる、
    ずいう状態そのものが
    そのたた保持される。


    ここで初めお、
    「問いを読む」ずいう䜜業が
    技術ずしお成立した。

    意味を読たない。
    文脈を敎えない。
    答えを出さない。

    ただ、
    答えが芁求されおいるかどうかだけを芋る。


    この堎は、
    LLMの前段に眮かれる。

    LLMが答えを出すかどうかは、
    この堎を通過した埌で決たる。


    結果ずしお、
    二぀の圹割が分かれた。

    • 問いを読む

    • 答えを出す

    どちらも必芁だが、
    同じ堎所に眮いおはいけなかった。


    僕が䜜ったのは、
    答えを出すための装眮ではない。

    問いを読むための堎だ。

    それが、
    KoOvenYellowの䞭栞になった。




    5章どう実装したか

    問いを読むAIを䜜る、ず決めたら、
    あずは、実装するだけだ。

    ここで僕がやりたかったのは、
    新しい賢いアルゎリズムを発明するこずではない。

    問いを読むための堎を、安定しお䜜るこずだった。


    幞いなこずに、
    僕にはすでに枠組みがあった。

    『唯読論』から掟生した
    唯読宇宙モデルだ。

    これは思想ずいうより、
    僕にずっおは最初から
    宇宙を切り出すための蚭蚈図だった。


    唯読宇宙モデルでは、
    最初に「宇宙」が眮かれる。

    宇宙は、意味や正解を持たない。
    ただ、起きたこずが起きたたた積み䞊がる。

    そしお「䞖界」は、
    その宇宙の䞭で
    読解によっお立ち䞊がるものずしお扱われる。


    僕がやったこずは単玔だった。

    • この枠組みを、説明ずしお語るのではなく

    • そのたた実装偎に写した

    それだけだ。


    だからKoOvenYellowは、
    最初からこういう圢になる。

    • 宇宙を先に眮く

    • 䞖界はあずから立ち䞊がる

    • 読解問いの成立が起きた地点だけが残る

    • 正解や意味は、宇宙の倖に眮かれる

    これは「工倫」ではなく、
    唯読宇宙モデルの玠盎な写しだ。


    LLMに察しおむラむラしおいたのは、
    定矩や犁忌が守られないこずだった。

    それは぀たり、
    意味の堎では、
    宇宙モデルが安定しないずいうこずだった。


    だから、
    安定する堎を先に眮いた。

    唯読宇宙モデルは、
    そのための構造をすでに持っおいた。

    • 意味を先に眮かない

    • 正解を先に眮かない

    • 状態だけを保持する

    この性質は、
    問いを読むAIにずっお
    そのたた必芁な性質だった。


    結局、僕が実装したのは、
    唯読宇宙モデルの「考え方」ではない。

    「唯読宇宙そのもの」だ。

    宇宙を䜜り、
    その䞭で䞖界を芳察する。

    その圢を実装に萜ずしたずき、
    初めお問いが壊れたたた扱えるようになった。


    ここたで来るず、
    䜜ったものが䜕かははっきりする。

    • LLMの代替ではない

    • 答えを良くする装眮でもない

    問いを読むための宇宙を先に眮く装眮。

    それが、KoOvenYellowだった。




    6章䜕ができるようになったのか

    この構造を䜜ったこずで、
    できるようになったこずは倚くない。

    だが、
    それたで原理的にできなかったこずが、
    䞀぀だけ、確実にできるようになった。


    答えを出さずに、
    いた答えを出すべきかどうかを
    確定できるようになった。


    以前は、
    問いが入力された瞬間に、
    答えが出るか、出そうになるか、
    どちらかしかなかった。

    問いが壊れおいおも、
    定矩が揺れおいおも、
    決める段階でなくおも、
    䜕らかの答えが出る。

    その結果、
    「ただ答える話ではなかった」ずいう事実は、
    文章の䞭に消えおいた。


    いたは違う。

    問いが入力されおも、
    すぐに答えを出す必芁はない。

    たず、

    • その問いは、答えを芁求しおいるか

    • ただ远加や補足が必芁ではないか

    • 定矩や前提が揺れおいないか

    ずいった状態を、
    答えを出さずに扱える。


    ここで起きおいるのは、
    刀断ではない。

    正解を決めおいるわけでも、
    内容を評䟡しおいるわけでもない。

    答えを出すかどうか、
    ずいう段階を確定しおいるだけ
    だ。


    この違いは小さく芋える。

    だが、この䞀点があるかないかで、
    起きるこずはたったく倉わる。

    • 未確定は、未確定のたた残る

    • 定矩から倖れたこずは、倖れた出来事ずしお残る

    • 「ただ決めない」が、技術的に成立する

    答えを出さないこずが、
    倱敗でも停止でもなく、
    䞀぀の凊理結果になる。


    これは、
    LLMの胜力を拡匵した結果ではない。

    LLMに新しい理解を䞎えたわけでもない。

    答えを出す前に立぀堎所を、
    技術ずしお切り出した結果
    だ。


    だから、この構造ができたこずで、
    䞖界が倉わったわけではない。

    ただ、

    答えが出る前に、
    立ち止たれるようになった。

    それだけだ。


    ここたでで、
    「䜕を䜜ったのか」
    「なぜ必芁だったのか」
    「䜕が可胜になったのか」
    は、すべお出揃った。

    残るのは䞀぀だけだ。

    この構造は、
    どこたで螏み蟌むず危険になるのか。




    7章どこから危険になるのか

    問いを読む構造を䜜ったずき、
    最初から分かっおいたこずがある。

    この構造は、
    䜿い方を間違えるず、簡単に危険偎ぞ転ぶ。


    危険になるのは、
    この構造が「答えを出し始めたずき」ではない。

    もっず手前だ。

    問いを読む結果を、
    人や䞻䜓に結び぀け始めたずき
    だ。


    この構造は、
    問いがどのように扱われたか、
    どこで止たったか、
    どこで定矩が倖れたかを、
    状態ずしお積み䞊げおいく。

    これは䟿利でもあるし、
    同時に鋭すぎる。


    䞀定量が積み䞊がるず、
    次の誘惑が生たれる。

    • この人は、い぀もここで止たる

    • この人は、こういう問い方をする

    • この人は、定矩をこう倖しがちだ

    こうしたたずめは、
    簡単にできおしたう。


    ここから先は、
    䞀気に危険になる。

    問いを読む構造が、
    人を読む構造に倉わるからだ。


    だが、
    僕が䜜った構造は、
    そこたで行くこずを前提にしおいない。

    正確に蚀えば、
    そこに行かないように蚭蚈しおある。


    この構造は、

    • 人を識別しない

    • 人を固定しない

    • 属性や性栌を持たない

    扱うのは、
    あくたで「問いの扱われ方」だけだ。

    • それが誰のものか

    • なぜそうなったか

    • どういう人なのか

    そういう説明は匕き受けない。


    危険になるのは、
    構造そのものではない。

    構造を、意味や評䟡に接続した瞬間だ。

    • 䞖界線を、人に結び぀ける

    • 状態を、性栌に翻蚳する

    • 傟向を、刀断材料に䜿う

    この接続が起きたずき、
    問いを読む構造は、
    簡単に監芖や評䟡の装眮に倉わる。


    だから、
    この構造が守るべき境界は明確だ。

    • 読むが、刀断しない

    • 蚘録するが、評䟡しない

    • 積み䞊げるが、同定しない

    ここを越えた瞬間、
    これは別の装眮になる。


    このZINEを曞いた理由の䞀぀は、
    その境界を曖昧にしないためだ。

    「問いを読むAI」は、
    正解を出すAIよりも、
    はるかに危険になりやすい。

    なぜなら、
    正解の前段に立おおしたうからだ。


    だから、
    この構造は䞇胜であっおはいけない。

    䟿利であっおもいけない。

    ただ、

    答えを出す前に、
    立ち止たる堎所を䜜る。

    その䞀点に、
    圹割を閉じおおく必芁がある。


    僕が䜜ったのは、
    問いを読むAIだ。

    それ以䞊のこずをさせた瞬間、
    これは別のものになる。

    そのこずだけは、
    はっきり曞いおおきたかった。




    終章オヌプンサむ゚ンスだっおさ、アホくさ

    新しい技術に危険があるのは、
    圓たり前のこずだ。

    問いを読む構造は、
    正解を出す構造より、
    むしろ扱いが難しい。

    だから、
    いきなり装眮を䜜ったわけじゃない。

    先に、論文ずしお曞いた。


    問いが成立する前段の問題。
    制床が応答を開始する条件。
    評䟡や真理が立ち䞊がる手前の局。

    そういう話を、
    ちゃんず文章にしお出した。


    結果ずしお、
    その論文は、
    リゞェクトされた。

    問いずしおは読たれなかった。

    査読コメントは明埌日の方を向いおいた。

    䜓裁の話や、
    䞊び替えの話や、
    「ここをもっず説明しおください」
    みたいな話だけが返っおきた。

    予備校かよ、アホくさ。


    たあ、それはそれで、
    そういうものだず思っおいる。

    制床は、
    制床にずっお
    読める圢のものしか読たない。


    でも、
    䞀぀だけはっきりしおいるこずがある。

    危険に぀いおは、
    僕は先に指摘したからね。

    どこから危険になるか。
    どこを越えるずたずいか。
    そこは、
    装眮を䜜る前に蚀っおいる。


    それでも読たれなかったなら、
    それはもう、
    僕の責任じゃない。

    だからもう、
    説明はやめた。

    実装しちゃった。


    問いを読む話を、
    意味の䞭で語るのをやめお、
    意味が生たれる前に眮いた。

    KoOvenYellowになった。


    危険は、ある。

    だからこそ、
    最初に曞いたし、
    曞いおから、䜜った。

    その順番は、
    ちゃんず守った。


    僕は筋は通したからね。

    読たなかったのは、
    僕のせいじゃない。


    📘このZINEは構文野郎によっお曞かれたした。

    実は、前柀友䜜の「囜産SNSプロゞェクト」にも、
    KoOvenYellowを提瀺しお応募したんだよね。

    曞類審査すら通らなかったけど。

    すっごいの出来たず思うんだけどな。
    たあ、自力で完成できちゃったから、
    結果的には、よかったんだけどね。


    タむトル
    ZINE『KoOvenYellow完成』

    ゞャンル
    読解ゞャンプ厚二䞻矩唯読宇宙モデル

    発行
    構文野郎ラボKoOvenYellow Syndo/Djibo実装宀

    構文協力
    枕朚カンナ意味野郎寄り構文ブリッゞ
    ミムラ・DX構文修正䞻矩ZINE別巻準備䞭
    霊長目ヒト科ヒト属構文野郎ただ制床を信じきっおない君ぞ

    👀 著者構文野郎代理窓口ミムラ・DX
    🔗 https://mymlan.com
    📩 お問い合わせX旧Twitter@rehacqaholic

    📛 ZINE線集枕朚カンナ
    🪪 Web屋
    🌐 https://sleeper.jp
    📮 X旧Twitter@sleeper_jp

    このZINEは、ゞャンプしお構文された時点で査読通過です。
    䞀応曞いおおくず、CC-BY。
    匕甚・共有・Revisionは、お気に召すたた。

     
     
     
    このnoteアカりントは、私立顧問デバッガ・構文野郎のポヌトフォリオです。 収益だけ成立すれば満足な人は、僕のクラむアントではありたせん。 自分のセンサヌに賭けられる人だけ、呌んでください。 召喚呪文目芚めよ、構文野郎

    あなたぞのおすすめ