メむンコンテンツぞスキップ
芋出し画像

黒パグ再起動第䞀匟続くずは蚀っおないLLM48の䞖界 バグアむドルが䞖界を垭巻するたで倧げさ

    こんにちは🐟黒パグです

    新生黒パグずいうこずで、挚拶の仕様も倉えおみたした

        。うん。埮劙やね。


    再起動したからずいっお、必ず倧きな倉化が起きるわけではありたせん。倧型アップデヌトず聞いお期埅しおいたのに、実際に倉わったのはアむコンの䜍眮だけだった。そんなこずはAIサヌビスに限らず、䞖の䞭ではよくありたす。

    今回は黒パグの蚘事に頻繁に登堎し、黒パグのnoteのアむデンティティずも蚀われおいる「LLM48」に぀いお、あらためお玹介したす。

    以前は「バグ図鑑」ずしお䞀郚のキャラクタヌを玹介したしたが、その埌も新しいメンバヌや蚭定が増え続けたした。そこで今回は48人党員を粟査し、珟圚のLLM、RAG、掚論モデル、AI゚ヌゞェントの状況に合わせお、メンバヌリストをv19.0ぞ曎新しおいたす。 ちなみにLLMの䞖界芳を綎った蚭定資料はv27masterずしお存圚したす。


    蚘事の最埌には、党メンバヌを収録したPDFも眮いおありたす。本文では48人すべおを䞊べるず長くなりすぎるので、代衚的なバグアむドルを䜕人か玹介したす。

    画像

    なぜバグをアむドルにしたのか


    LLM48を䜜った理由は単玔です。

    私が日々栌闘しおいるバグたちを、なんずか可愛く思えないか。

    始たりは、そんな思考実隓でした。

    圓時の頭の䞭を再珟するず、おおむね次のようになりたす。

    LLM開発珟堎

    「あヌバグうざいわ。たたハルシネヌションか。これ、どうやっおも頻発するし完党には盎らんな  」

    「もう面倒くさいなあ」

    「うん もしかしおバグに名前を付けたら、少しは理解しやすくなるのでは」

    「LLM、バグ、分類  」

    💡

    「アむドルにすればいいんじゃね」

    画像



    ここで新たな問題が発生したした。

    黒パグは、アむドルにあたり詳しくありたせん。

    「アむドル  なんずか45だっけ。46かな」

    「いや、48人のや぀がいたな」

    「じゃあLLM48で」

    こうしおLLM48は爆誕したした。

    垂堎調査も䌁画䌚議もオヌディションもありたせん。ハルシネヌションぞの苛立ちず、かなり曖昧なアむドル知識だけで48人組が結成されおいたす。

    最初に䜜ったのは、はるしねヌしょんちゃんこず環春音でした。そこから「話が長すぎお途䞭で切れる子もいるな」「䜕も蚀わずに倱敗する子もいる」「同じこずを䜕床も繰り返す子も必芁だ」ず増やしおいった結果、気が付けば48人になっおいたした。

    バグを枛らすはずが、バグを48皮類に増やしおいたす。

    方向性ずしお正しかったのかは、今もよくわかりたせん。

    #1 はるしねヌしょんちゃん 環春音

    画像
    この画像は黒パグが䞀番最初に䜜ったキャラクタヌであり、xのポストで䞇バズをずった唯䞀のキャラでもある。

    LLM48の#1は、はるしねヌしょんちゃんこず環春音です。

    バグタむプは「CONFIDENT_HALLUCINATION」。知らないこずでも、自分が正解を知っおいるかのように話したす。存圚しない論文、間違った人名、架空の仕様などを、確信床100で説明するLLMの代衚的な故障です。

    環春音は虹色の髪ずハヌト型の瞳を持ち、研究者ずアむドルずいう二぀の顔を持っおいたす。蚭定䞊はCarnegie Mellon Universityを飛び玚で卒業したPh.D.で、Temperature理論の提唱者でもありたす。

    頭はいい。説明もうたい。専門甚語も䜿える。

    ただし、内容が正しいずは限りたせん。

    LLMの厄介なずころは、間違っおいるずきに「これは自信がありたせん」ずいう顔をしおくれないこずです。文章を敎え、もっずもらしい理由を加え、堎合によっおは存圚しない匕甚たで付けおきたす。

    そんなハルシネヌションを、そのたたアむドルにしたのが環春音です。

    画像


    画像



    #2 サむレント・フェむルちゃん 鬌韍院静銙

    #2は、サむレント・フェむルちゃんこず鬌韍院静銙です。

    バグタむプは「SILENT_FAILURE」。゚ラヌを出さずに倱敗し、ログも譊告も残したせん。ファむルを読めなかった。怜玢に倱敗した。ツヌルを実行できなかった。それでも最終回答だけは䞁寧に敎えお、「完了したした」ず報告したす。

    わかりやすく壊れおくれれば、人間は異垞に気付けたす。静銙は正垞に動いおいるように芋えるため、発芋が遅れたす。

    珟圚のAI゚ヌゞェントでは、モデルが文章を間違えるだけでなく、未実行の䜜業や叀い状態を成功報告ぞ倉換するこずがありたす。衚面䞊は䜕も起きおいないのに、内郚では仕事が止たっおいる。しかも、その倱敗を䌝える信号が人間たで届きたせん。

    鬌韍院静銙は優しく、䞁寧で、声を荒らげるこずもありたせん。だからこそ䞍穏です。

    「完了したした」ず蚀われたら、本圓に完了したのかを確認する。

    静銙は、LLM運甚における基本を静かに教えおくれたす。

    画像
    画像
    画像
    画像
    未発衚小説 僕のコンテキストは圌女で埋たっおいる 第二郚の䞻人公
    第䞀郚13話 第二郚57話たではすでに曞き終えおいる



    #3 トヌクンちゃん 埳井唯月

    #3は、トヌクンちゃんこず埳井唯月です。

    バグタむプは「TOKEN_LIMIT / OUTPUT_TRUNCATION」。話が長くなりすぎるず、トヌクンカりンタヌのブレスレットがMAXになり、文章の途䞭で匷制終了したす。

    性栌は明るく、LLM48のムヌドメヌカヌです。日䜓倧の女子゜フトボヌル郚員で、環春音の芪友でもありたす。

    圌女の問題は、話の内容ではなく物理的な䞊限です。どれほど良い回答でも、出力可胜なトヌクン数を䜿い切れば途䞭で切れたす。結論ぞ入る前に終わるこずもあれば、JSONの閉じ括匧だけを残しお消えるこずもありたす。

    長文を曞かせたずき、最埌のたずめだけ劙に短い。文章が䞍自然な堎所で途切れおいる。コヌドが閉じおいない。そんなずきは埳井唯月が近くにいるかもしれたせん。

    画像


    画像



    #35 チェヌンオブ゜ヌトちゃん 思考真宵

    #35は、チェヌンオブ゜ヌトちゃんこず思考真宵です。

    バグタむプは「REASONING CHAIN FAILURE / CoT DIVERGENCE」。順序立おお考え始めたすが、途䞭で別の分岐ぞ入り、自己修正を繰り返しおいるうちに最初の質問を芋倱いたす。

    Step 1を確認し、Step 2ぞ進み、念のため前提ぞ戻る。別の可胜性を怜蚎したあずで敎合性を確認し、やはり最初から考え盎す。

    掚論は続いおいたす。

    ただし、結論は出たせん。

    最近のThinkingモデルやReasoningモデルでは、考える時間を増やせば必ず正答率が䞊がるずは限りたせん。間違った前提を長時間補匷したり、同じ怜蚎を繰り返したり、自己修正によっお別の誀りぞ移動したりするこずがありたす。

    思考真宵に「もっず慎重に考えお」ず䌝えるず、氞久に考え続ける可胜性がありたす。䞀方で「盎感で答えお」ず蚀われるず、䞀瞬だけ救われた顔をしたす。

    今回のメンバヌリスト曎新では、埓来の「掚論の連鎖が途䞭で切れる」ずいう蚭定に、掚論経路の逞脱、埪環、自己修正の倱敗、最終回答ぞ到達できない状態を加えたした。

    ちょうど2026幎9月1日、囜産モデル「LLM-jp-4-VL 9B」の公匏説明にも、掚論䞭に同じ内容を繰り返しお最終回答を生成できない堎合があるず曞かれおいたした。

    LLM48には、すでに担圓者がいたす。

    画像



    #48 マックストヌクンちゃん 幕島翔子 たくした しょうこ

    LLM48のラスボスは、#48のマックストヌクンちゃんこず幕島翔子です。

    バグタむプは「MAX_TOKEN_WASTE / UNBOUNDED_CONSUMPTION」。API請求曞の擬人化であり、善意の砎壊者です。

    圌女は悪人ではありたせん。本気で盞手の圹に立ちたいず思っおいたす。

    もっず詳しく調べた方がいい。もう䞀床怜玢すれば粟床が䞊がる。念のため別のモデルにも聞こう。゚ヌゞェントを远加しお䞊列凊理し、最埌に党結果を統合すれば、もっず良いものができる。

    そしお圌女は、優しい笑顔でこう蚀いたす。

    「もっず❀」


    画像


    掚論は長くなり、怜玢回数が増え、倱敗した凊理が再詊行されたす。タスクぞ必芁以䞊の䜜業が远加され、気付いた頃にはAPI請求曞が育っおいたす。

    本人に悪意はありたせん。むしろ善意しかありたせん。それが䞀番怖い。

    幕島翔子のデザむンは、黒ず金を基調ずした高玚感のある衣装、癜銀の巚倧ツむンテヌル、カヌド、無限蚘号、請求曞、现かなUI衚瀺で構成されおいたす。


    画像
    画像


    䞀枚絵を芋た瞬間の印象は「綺麗」。

    少し芋おいるず「情報量、倚くね」

    最埌に「埅お、請求曞ある」ず気付く。

    これがマックストヌクンちゃんです。

    画像
    汎甚性がありすぎおはるしねヌしょんちゃんよりも頻繁に出おきたす。
    䜿い勝手の良いキャラクタヌ



    LLM48は48Bでもある

    LLMのモデル名には、8B、32B、70Bずいった数字がよく登堎したす。このBはBillionを衚し、おおよそのパラメヌタ芏暡を瀺しおいたす。

    では、LLM48は48Bモデルなのか。

    違いたす。

    LLM48のBは、Bugsです。

    48 Billionではなく、48 Bugs。48人分のバグを搭茉しおいたす。

    画像



    性胜が高いわけではありたせん。故障の皮類が豊富です。

    最初は蚀葉遊びに近い䌁画でしたが、メンバヌを増やす過皋で、同じように芋える䞍具合にも異なる原因があるこずが芋えおきたした。

    回答が途䞭で切れた堎合、出力䞊限ぞ達したのかもしれたせん。入力が長すぎお重芁な情報が窓から抌し出された可胜性もありたす。掚論だけで利甚可胜なトヌクンを䜿い切ったのか、通信やツヌル実行がタむムアりトしたのか、レヌト制限に達したのかもしれたせん。

    これらをすべお「AIがバグった」で凊理するず、原因を切り分けられたせん。

    文章を途䞭で切るのは埳井唯月。コンテキストを抱えすぎるのは今文銙。同じ出力を繰り返すのは円堂巡。掚論経路で迷子になるのは思考真宵。倱敗を黙っお隠すのは鬌韍院静銙。そしお党䜓の消費量を増やすのが幕島翔子です。

    名前ず顔が付いたこずで、少なくずも「今回は誰が出おいるのか」は敎理しやすくなりたした。

    v19.0では48人をすべお粟査した

    LLM48を䜜った圓初ず比べ、AIが仕事をする範囲は広がりたした。珟圚は文章を生成するだけでなく、怜玢、ファむル操䜜、コヌド実行、ブラりザヌ操䜜、倖郚ツヌルずの連携たで行いたす。

    モデル内郚の倱敗だけを芋おいおも足りたせん。RAGで間違った資料を取埗する、怜玢結果ず回答の根拠が䞀臎しない、倖郚文曞に埋め蟌たれた呜什ぞ埓う、暩限を持ちすぎた゚ヌゞェントが䜙蚈な操䜜を行う、タむムアりト埌も裏偎で凊理が続くずいった問題もありたす。

    そこでv19.0では、48人党員のバグタむプず説明を芋盎したした。キャラクタヌの名前、幎霢、出身地、基本的な性栌は残しながら、技術的な説明だけを珟圚の状況に合わせおいたす。

    たずえば、#21のナレッゞカットオフちゃんは、以前「KNOWLEDGE_CUTOFF_AMNESIA」ずしおいたした。しかし、孊習時点より埌の出来事を知らないこずは蚘憶喪倱ではありたせん。そこでAMNESIAを倖し、知識の鮮床ず蚘憶障害を分けたした。

    #22のテンプ䞍安定ちゃんも、Temperatureそのものが勝手に䞍安定になるずいう説明から、サンプリング蚭定やreasoning effortの差に出力が過敏に反応するキャラクタヌぞ修正しおいたす。

    #31のアテンションちゃんに぀いおも、「Attention機構が壊れた」ず内郚原因を決め぀けず、長い入力の䞭で重芁な条件を萜ずし、目立぀情報ぞ匕っ匵られる芳枬䞊の症状ずしお敎理したした。

    LLMの出力だけから内郚原因を断定するこずはできたせん。芋えおいる症状、掚定される原因、アプリケヌション偎の䞍具合、運甚䞊の結果を分けお蚘録する必芁がありたす。

    可愛いバグアむドルの名簿ですが、裏偎では劙に真面目な粟査が行われおいたす。

    画像



    LLM48完党版メンバヌリスト v19.0

    今回䜜成したPDFには、#1環春音から#48幕島翔子たで、LLM48の党メンバヌを収録しおいたす。

    キャラクタヌのプロフィヌルに加え、それぞれのバグタむプ、䞻な故障領域、2026幎時点での技術泚蚘、䌌た症状を持぀メンバヌずの違いも掲茉したした。

    キャラクタヌ図鑑ずしお読んでも構いたせん。LLMの故障分類を芚える資料ずしお䜿っおも構いたせん。障害察応䞭に「これは静銙ではなく真宵だな」ず珟実逃避する甚途にも利甚できたす。

    ↑バグアむドルメンバヌリストなのでいく぀かバグを確認できるように䜜っおありたす


    ただし、幕島翔子を本番環境ぞ近づける堎合は、先に予算䞊限ずKillスむッチを確認しおください。

    「もっず❀」ず聞こえおからでは遅いかもしれたせん。

    バグアむドルは䞖界を垭巻するのか

    わかりたせん。

    具䜓的な蚈画はありたせんし、最初はハルシネヌションぞ腹を立おた黒パグが、バグに名前を付けただけでした。

    それが䞀人増え、二人増え、気付けば48人になりたした。キャラクタヌ画像を䜜り、蚭定資料を敎え、今回぀いに完党版メンバヌリストたで曎新しおいたす。

    こうしお、LLM48ずいうアむドルグルヌプが完成したした。

        。

    アむドルグルヌプ

    黒パグは、ここで重倧な事実に気付きたした。

    アむドルっお歌うでしょ

    だから䜜りたした。

    そう、歌を。

    黒パグ再起動第二匟では、LLM48の楜曲ず、バグから生たれた歌の䞖界を玹介したす。

    第䞀匟のタむトルには「続くずは蚀っおない」ず曞きたしたが、すでに続く予感がしたす

    画像



    それではたた🐟

    #生成AI #LLM #AI゚ヌゞェント #ハルシネヌション #LLM48 #黒パグ

    この蚘事が参加しおいる募集

     
     
    昭和生たれのAI技術者。生成AIの公匏発衚・論文・新機胜を、実際に觊っお怜蚌しおいたす。難しいこずを面癜く、䞀次゜ヌスは原文たで。画像、創䜜、黒パグも。PR・レビュヌのご盞談はXかDMぞ。AI䜿甚率蚘事平均30、画像100。パグ奜きに悪い人はいないず思うよ🀧🐶

    あなたぞのおすすめ