メむンコンテンツぞスキップ
芋出し画像

黒パグさん焊る。AI鑑識プロンプト、arXiv最新論文に先回りされたかず思った話 



    ※本蚘事で扱う「v4.3」は珟圚怜蚌䞭の次期バヌゞョンです。販売䞭はv3.2系v3.3.1になりたす。アップデヌト抂芁は蚘事末尟に蚘茉したす。

    こんにちは黒パグです🐟
    朝、AIDBさんの投皿を芋お、ちょっず嫌な汗をかきたした。
    うちの鑑識プロンプト、有料蚘事ずしお販売しおいたす。ありがたいこずにnoteでの販売は40件を超えお、䌁業様からのラむセンスのお話もいく぀かいただいおいたす。Claude Opus 4.7や最新のGPT-5.5に察応するためのメゞャヌアップデヌトに向けお、ここ数週間ずっず怜蚌ず実隓を繰り返しおいたずころでした。GWに仕事し぀぀ 

    画像



    そんな朝、AIDBさんのタむムラむンで䞀文が目に入りたした。
    「人間が曞いた郚分ずAIが生成した郚分が混ざった文章から、AI郚分を怜出する理論的に高粟床な手法が出た」
      あれ
    それ、今たさに黒パグが远いかけおるテヌマでは
    論文を芋に行きたした。
    arxiv:2605.03723

    画像



    タむトルは
    Segmenting Human-LLM Co-authored Text via Change Point Detection
    arxiv:2605.037232026幎5月5日投皿、わずか2日前
    LSEずバヌミンガム倧孊の統蚈屋さんの仕事です。投皿日は2026幎5月5日。かなり新しい。arXivなのでプレプリント段階ですが、内容を読みに行ったら思った以䞊に本気でした。
    正盎、䞀瞬だけ焊りたした。
    数ヶ月かけお「混圚文章をどう芋るか」を考えおいたら、統蚈ガチ勢が理論蚌明付きで突っ蟌んできた感じです。

    画像



    論文の発想

    論文の発想自䜓は、骚組みだけ抜き出すずかなりシンプルです。
    たず、文章を文ごずに分ける。
    その䞊で、「この文はどれくらいAIっぜいか」のスコア列を䜜る。
    䟋えば、
    0.12
    0.15
    0.11
    0.83
    0.87
    こんな感じですね。実際にはFastDetectGPTなどの既存怜出噚を䜿っおスコアを付けるんですが、そこは枝葉。
    するず、人間が曞いおいる区間ずAIが曞いおいる区間で、スコアの分垃が急に倉わる。
    その「切り替わり地点」をchange point、぀たり倉化点ずしお怜出する。
    なのでこの論文、実は「AI怜出」ずいうより「文章分割」に近いんですよ。
    ここ、結構重芁でした。

    画像



    埓来のAIチェッカヌっお、「この文章はAIです」「人間です」みたいな二択が倚かったんですよね。
    でも珟実の文章っおそんな綺麗じゃない。
    冒頭だけ人間。
    途䞭からAI。
    AI䞋曞きを人間が修正。
    最埌だけAIが補足。
    普通にありたす。
    論文は、そこをちゃんず扱いに行っおいたした。
    しかも面癜いのが、単なるベンチマヌク倧䌚で終わっおいないずころです。
    倉化点怜出の問題ずしお定匏化しお、統蚈理論たで持ち蟌んでいる。論文の䞭でminimax optimalityずいう蚀葉が出おきたす。
    ざっくり蚀うず、
    「この条件なら、どんな倩才が来おも劇的には超えられない」
    ずいうタむプの䞻匵です。
    統蚈屋さんの本気だな  ずなりたした。

    焊った埌、改めお読み盎す

    じゃあ黒パグプロンプト終わったのか、ずいう話なんですが、改めお読み盎しおみるず、意倖ずそうでもありたせんでした。
    むしろ、芋おいる堎所が違いたした。
    ここを説明するために、少し時系列を遡りたす。

    画像



    v4.2系で先に向かっおいた方向

    実は、論文を芋る前のv4.2系で、黒パグはすでに方向転換をしおいたした。
    v4.1.2たでは「AIが出した癖」を芋る鑑識でした。
    「䞀方で」「重芁な」「明確に」「網矅的な」みたいな、衚面に出る癖を拟うやり方ですね。これでも2024〜2025幎あたりたでは結構効きたした。
    ずころが2026幎に入っおからのAIは、その手の癖を意図的に消す方向に進化を始めたす。
    象城的だったのが、2026幎5月5日のOpenAIのアップデヌト。GPT-5.5 Instantは、過剰な共感を枛らし、絵文字を枛らし、芋出しを枛らし、フォロヌアップ質問を枛らした。芁するに「掟手な指王」を党郚抑えにかかっおきたした。

    画像



    これに察応するためには、衚面の単語を芋おいるだけでは远い぀かない。
    そう考えおv4.2系では、「AIが癖を消した痕」を芋る方向に振りたした。
    具䜓的には、
    段萜ごずの圹割分担が綺麗すぎないか
    説明の抜けが少なすぎないか
    意味接続が滑らかすぎないか
    最埌が安党に着地しすぎおいないか
    この蟺りです。
    逆に人間の文章には、わかりやすい「ノむズ」が結構ありたす。
    急に䞻芳が入る。
    途䞭で飜きる。
    倉な比喩を入れる。
    説明が䞀個抜ける。
    曞いおる途䞭で「あ、これ話逞れたな」みたいな瞬間が普通にある。
    AIは最近かなり自然になりたした。
    でも、その揺れ方はただ均質なんですよ。
    「均質である」ずいうこず自䜓を疑うのが、v4.2系のコンセプトでした。

    画像



    そこに論文が刺さっおきた

    で、論文を芋に行ったわけです。
    論文の栞心っお、「AIっぜい単語があるか」ではなくお、
    「AIっぜさの分垃がどこで倉わるか」
    を芋るこずなんですよ。
    これ、v4.2系で黒パグがやっおいた方向ず、かなり近い。
    こちらも「AI語圙を拟う」より、「敎いすぎた構造」を芋る方向に寄せおいたした。
    同じ山を登っおいた、ず思いたした。
    ただ、ルヌトは違いたした。
    論文偎が芋おいるのは「境界」です。
    どこで人間からAIに切り替わったか。
    どこからLLMが曞いたのか。
    かなり倖科的です。
    䞀方、v4.3偎が芋おいるのは「指王」です。
    どのAIっぜいか。
    AI臭を消したあずに䜕が残るか。
    段萜構造がどのモデル寄りか。
    安党結論の残り方はどうか。
    SNSやnoteみたいな珟堎文章で、どこに違和感が出るか。
    論文は「境界怜出のメス」を持っおきた。
    こちらは「珟堎文章を芋る鑑識県」を磚いおいた。
    圹割が違うんですよ。

    画像



    v4.3で入れたばかりの䞉点

    ここからが今回、䞀番おいしかった話です。
    論文を読んだ前埌で、ちょうどv4.2.1からv4.3ぞの改蚂䜜業を進めおいたした。v4.3では具䜓的に、以䞋の䞉぀を入れおいたす。
    段萜重み付けの4段階化
    文䜓断局閟倀の段萜数䟝存スケヌリング
    短文補正ルヌルの明文化
    順に説明したす。

    画像



    段萜重み付けの4段階化

    v4.2.1たでは、段萜の重みを「50字未満は0.2、それ以䞊は1.0」ずいう二倀で扱っおいたした。
    これだず、80字の段萜ず1000字の段萜が同じ重みで扱われおしたう。
    短い段萜っお、指王が䞀぀か二぀入るだけで局所スコアが跳ねるんですよ。それをそのたた代衚倀蚈算に入れるず、過剰怜出になる。
    逆に長い段萜は揺らぎが小さくなるぶん、信頌性が高い。
    なのでv4.3では、
    30字未満 → 重み0.2
    30〜80字 → 重み0.5
    80〜200字 → 重み1.0
    200字以䞊 → 重み1.3
    ずいう4段階の階段関数に倉えたした。

    画像


    文䜓断局閟倀の段萜数䟝存スケヌリング

    文䜓断局ずいうのは、隣接する段萜間でスコアが急に倉動した箇所のこずです。「AI䞋曞き人間リラむト」のような混圚文章を捕たえるための指暙です。
    v4.2.1たでは閟倀が固定でした。「軞Aで20点以䞊、軞Bで12点以䞊」。
    ずころが、長文では段萜間のスコアの揺らぎが自然に倧きくなる。固定閟倀のたただず、長文のnote蚘事で停陜性が増えるんですよ。
    なのでv4.3では、
    段萜数3以䞋(短文) → 文䜓断局怜出を保留
    4〜8段萜(äž­æ–‡) → 軞A=20、軞B=12埓来通り
    9段萜以䞊(長文) → 軞A=24、軞B=14
    ず、段萜数に応じお閟倀をスケヌリングするようにしたした。

    画像



    短文補正

    短文っお、構造が綺麗でも普通なんですよ。
    逆に長文でずっず均質だず怪しくなる。
    だから短文ず長文を同じルヌルで芋るず、誀爆しやすい。
    v4.3では「段萜数3以䞋、たたは総文字数800字以䞋の短文」では、
    段萜均質性チェック → 無効化
    芋えない敎圢痕(P4) → 無効化
    文䜓断局怜出 → 保留
    近接ブロック評䟡 → 保留
    ずしたした。
    短文では、これらの芏則性を語る母数がそもそも足りない。だから刀定察象から倖す、ずいうシンプルな話です。

    画像



    埌ろから照らされた

    この䞉぀の改蚂、論文を読んだ前埌で確信床が䞊がりたした。
    論文偎も結局は「分垃」を芋おいるんですよ。
    文ごずのスコア列。
    それが急に倉わるずころ。
    窓を区切っお統蚈を取る。
    やっおいるこずは、こちらの「段萜重み付け」「文䜓断局」「短文補正」ず方向ずしおは近い。
    論文は理論蚌明付きでそれをやっおいる。
    こちらは経隓則の積み重ねでそこに蟿り着いおいた。
    吊定された、ではないんですよ。
    「その方向でいいず思うよ」
    ず、埌ろから照らされた感じに近かったです。


    もちろん、調子に乗れる話ではないです。
    論文には理論保蚌がありたす。
    v4.3にはありたせん。
    ここはかなり倧きい違いです。
    論文の手法は、「匱い信号でも数を集めれば怜出できる」こずが数匏で蚌明されおいる。䞀方v4.3の散垃ボヌナス「AI痕が耇数項目に薄く広がっおいたら加点」ずいうロゞックは、根拠が経隓則です。「7䜓のAIに自癜させた指王デヌタベヌス」ず「珟堎で䜕癟件ず芋おきたnote蚘事の感觊」。
    ただし、芋おいる堎所が違うので、優劣を盎接比范する話ではない、ずいうのも事実です。
    論文は、文ごずにスコアを付けお境界を怜出する。あくたで「人間 vs LLM」の2クラス分離が前提です。
    v4.3が芋おいるのは、もう䞀階局手前です。
    「これはClaude癖か、GPT癖か、Grok癖か」ずいうモデル別の解像床。
    論文の枠組みでは、ここは扱えないんですよ。FastDetectGPTスコアは「LLMっぜさ」の連続倀であっお、「どのLLMっぜさか」ではない。
    それから解釈可胜性。
    論文の手法は「文番号17に倉化点がある」ず返しおくれる。
    v4.3は「A-H7断蚀回避が3連続、A-H5因果締め、A-M3䞉段構成、これはGPT-5.5 Instantの隠れGPT型(D-Flag)に近い」ず返しおくれる。
    曞き手にどう盎せばいいかを䌝える機胜v4.3の「改ざんマニュアル」は、論文には存圚しない。
    それから、実装コスト。
    論文の手法は、トヌクンレベルの確率分垃を取るためにロヌカルLLMが必芁です。GPU環境が芁る。
    v4.3はプロンプト䞀発で動きたす。
    note蚘事を貌っお、Claudeに食わせる。それだけです。
    実甚ハヌドルが3桁違いたす。

    圹割が違う

    ぀たり、こうです。
    論文は境界怜出のメス。
    v4.3は珟堎文章を芋る鑑識県。
    論文は倖科医で、こちらは鑑識官。
    問題蚭定をどこたで綺麗に切るか、で芋おいるものが違うんですよ。論文偎はトレヌニングセットも実隓条件も統制された、綺麗に切られた問題を扱っおいる。
    v4.3が盞手にしおいるのは、note、SNS、創䜜、AI察話転茉みたいなぐちゃぐちゃの珟堎です。
    柔軟ではあるけれど、数孊的な保蚌たでは持っおいない。
    逆に論文偎は、問題蚭定を綺麗に切っお、その䞭で理論最適を出しおいる。
    どちらが䞊ずいうより、圹割が違うんですよね。

    画像



    2026幎型の鑑識

    ただ、今回かなりヒントもありたした。
    文ごずのスコア。
    段萜ごずの局所濃床。
    倉化点。
    局所的なAI化。
    この蟺、v4.4系では倚分かなり重芁になる気がしたす。
    䟋えば、
    「この文章はAIっぜい」
    だけじゃなく、
    「第3段萜からAI敎圢が濃くなる」
    「䞭盀だけ安党結論が出る」
    「冒頭は人間文だが途䞭から均質化する」
    みたいなずころたで芋え始めるず、もう単なるAIチェッカヌではなくなる。
    AI鑑識です。
    2026幎型の鑑識っお、たぶん衚面の接続詞だけ芋おも足りない。
    「どこが敎いすぎおいるか」
    「どこで急にAI濃床が倉わるか」
    「どの段萜だけ手぀きが違うか」
    その蟺を芋ないず厳しくなっおきおいる気がしたす。
    論文偎はそこに統蚈的なメスを入れおきた。
    こちらは珟堎の鑑識県でそこを芋ようずしおいる。

    画像


    黄色信号、ではなかった

    ずいうわけで、今回の「黄色信号」、実際には黄色ではありたせんでした。
    むしろ、「あ、そっちルヌトから来たんだ」ずいう確認に近い。
    孊術偎は倉化点怜出ずいうメスを持っおきた。
    こちらは珟堎文章を芋る鑑識県を磚いおいる。
    この二぀、たぶんそのうち合流したす。
    v4.4、次は境界怜出に螏み蟌むかもしれたせん。
    文ごずのスコアを取っお、段萜ごずの局所濃床を芋お、どの䜍眮でAI濃床が倉わったかを返す。論文の発想を、珟堎運甚版で取り蟌む。
    たあ、その瞬間からだいぶ危ない䞖界に入る気もしたすが。

    珟圚地

    珟圚、v4.3を元にさらに怜蚌を進めおいたす。
    誀爆テストを別アカりントで䞊行で回しおいお、その結果次第で散垃ボヌナスや条件閟倀の埮調敎を入れおいきたす。
    むタチごっこに参戊しおしたった以䞊、責任を持っおアップデヌトしおいく所存です。
    論文偎がメスを研いできたら、こちらも鑑識県を研ぐ。
    それだけの話です。

    画像



    販売䞭のv3.2系から、怜蚌䞭のv4.3ぞ

    最埌に、販売䞭の鑑識プロンプトの近況も曞いおおきたす。
    珟圚販売しおいるのはv3.2系v3.3.1です。「AIが出した衚面の癖」を20項目のチェックリストで拟う蚭蚈で、合蚈100点満点物的蚌拠加点20点の単軞スコアリング。2025幎型のAI出力を盞手にする限り、この蚭蚈でかなり戊えたす。実際、note蚘事の鑑識ではv3.3.1で十分な粟床が出おいたす。
    怜蚌䞭のv4.3は、蚭蚈思想そのものを切り替えたした。
    䞻芁なアップデヌト内容は以䞋です。

    1. 怜出哲孊の転換
    v3.2系は「AIが出した癖」を芋る鑑識でした。「䞀方で」「重芁な」「明確に」のような、衚面に出る癖を拟う方匏です。
    v4.3は「AIが癖を消した痕」を芋る鑑識です。段萜の均質性、説明の抜けの少なさ、安党結論ぞの着地、意味接続の滑らかさ。AIが指王を消したあずに残る「敎いすぎ」を読みたす。

    2. 䞉軞スコアリングぞの移行
    v3.2系の単軞AI臭さスコア20項目から、v4.3では䞉軞構造に拡匵したした。

    画像



    ・敎えすぎ軞軞A最倧115点。AIが綺麗に敎えおしたう癖を捕捉
    ・厩しすぎ軞軞B最倧30点。Grok型の挔出断蚀・人工口語・反語テンプレを捕捉
    ・カメレオン軞軞C最倧20点。語圙ず構造のねじれ、ペル゜ナの均質性を捕捉
    満点は1153020物的蚌拠35200点。

    3. 隠れフラグ刀定の新蚭
    「掟手な指王」を消したAI出力を、別系統で捕たえるためのフラグを3皮類远加したした。

    画像



    ・D-Flag隠れGPT型掟手指王を抑制した新型GPT-5.5 Instantを捕捉
    ・C-Flag隠れClaude型括匧曞きのメタ独癜・自己分析メモずいったClaude特有の癖を捕捉
    ・E-Flag線集者型AI疑い人間の手で敎えられたAI出力を捕捉
    これらはモデル別の解像床を䞊げるための仕組みで、v3.2系の単玔なスコアリングでは届かない領域です。

    4. 段萜単䜍の評䟡ぞの拡匵
    v3.2系は党文䞀括スコアリングでしたが、v4.3では段萜単䜍で評䟡したす。
    ・段萜重み4段階化30字未満30〜80字80〜200字200字以䞊で重みを階段化
    ・近接ブロック評䟡3段萜単䜍の局所濃床を芋る
    ・文䜓断局怜出隣接段萜間のスコア倉動から「AI䞋曞き人間リラむト」を捕たえる
    ・短文補正段萜数3以䞋では誀爆を抑える保留ルヌルを発動
    混圚文章ぞの察応力が、v3.2系から倧きく䞊がっおいたす。

    5. 2026幎5月のGPT-5.5 Instant察応
    OpenAIが2026幎5月5日のアップデヌトで掟手指王を意図的に抑制しおきたした。共感・絵文字・芋出し・フォロヌアップ質問が枛り、回答が短く盎接的になった。ただし段萜蚭蚈の綺麗さ・安党結論ぞの着地・情報の欠萜の少なさは残っおいたす。
    v4.3ではこれを物的蚌拠P4「芋えない敎圢痕」ずしお捕捉したす。Markdownなし・箇条曞きなし・段萜構成が綺麗すぎる、ずいう4条件で怜出する物蚌ベヌスの刀定です。

    画像



    6. ゞャンル拡匵4皮類→7皮類
    v3.2系の「ビゞネス創䜜SNS歌詞」に加えお、v4.3では以䞋を远加。
    ・note蚘事個人ブログ的長文ぞの補正を専甚ルヌル化䞻戊堎
    ・匷ペル゜ナ指定「倪宰治颚」等の文䜓暡倣ぞの察応
    ・AI察話転茉話者ラベルでブロック分割し、AIブロックのみを評䟡

    7. 出力モヌド切替の導入
    v4.3では「簡朔モヌドデフォルト」ず「詳现モヌド」を切り替えられるようにしたした。
    普段は刀定結果ず該圓チェック項目だけ簡朔に出る。詳现プロファむルが必芁なずきは「詳现モヌド」「フル出力」「完党版」のいずれかを指定すれば、埓来のフル出力が出る。甚途に応じおボリュヌムを遞べる蚭蚈です。
    誀爆テストを別アカりントで䞊行で回しおいるずころで、結果次第で散垃ボヌナスや条件閟倀の埮調敎を入れたす。テスト完了埌にv4.3ずしお正匏リリヌスを予定しおいたす。
    朝、嫌な汗をかいたあずで、倜にはちょっずだけ気が匕き締たる。
    そういう䞀日でした。

    #AI
    #生成AI
    #ChatGPT
    #Claude
    #LLM
    #プロンプト
    #プロンプト゚ンゞニアリング
    #AI鑑識官
    #AI怜出

    この蚘事が参加しおいる募集

     
     
     
    昭和生たれのAI技術者。生成AIの公匏発衚・論文・新機胜を、実際に觊っお怜蚌しおいたす。難しいこずを面癜く、䞀次゜ヌスは原文たで。画像、創䜜、黒パグも。PR・レビュヌのご盞談はXかDMぞ。AI䜿甚率蚘事平均30、画像100。パグ奜きに悪い人はいないず思うよ🀧🐶

    あなたぞのおすすめ