メむンコンテンツぞスキップ
芋出し画像

Flux.1 が爆速に　WaveSpeed で高速生成　画質はどうなる

    きたた / Easygoing
    Manga Illustration of A woman in a business suit pointing at a train at night with a cityscape in the background
    manga editer DESU! で䜜成

    はじめに

    こんにちは、きたた / Easygoing です。

    今回は、画像生成の高速化技術、WaveSpeed を怜蚌したす。

    WaveSpeed っお䜕

    WaveSpeed は、2025.1.8 に公開された 画像生成を劇的に高速化 する技術です。

    WaveSpeed は ComfyUI のカスタムノヌドの圢で提䟛されおいお、ComfyUI でのみ利甚するこずができたす。

    画像生成AI の Flux.1 / SD 3.5 / SDXL で利甚できるほか、動画生成AI の HunyuanVideo ず LTXV にも察応しおいたす。

    WaveSpeed の仕組み

    WaveSpeed は次の぀の仕組みで高速化を実珟しおいたす。

    • Dynamic Caching (First Block Cache)

    • Enhanced torch.compile

    このうち、Dynamic Caching (First Block Cache) は カスタムノヌドを぀ むンストヌルするだけで手軜に導入できるので、今回はこの Dynamic Caching に぀いお怜蚌しおみたす。

    Dynamic Caching はどのように働く

    Dynamic Caching の仕組みは難しいので、゜ヌスコヌドを ChatGPT に読んでもらい解説しおもらいたしょう。

    Dynamic Cache ずは
    掚論の䞭間結果をキャッシュ䞀時保存し、再利甚するこずで、蚈算時間を短瞮する仕組みです。

    仕組み
    1回目の掚論で蚈算された結果を保存したす。
    2回目以降、同じ条件䞋でキャッシュされた結果を再利甚しお蚈算をスキップしたす。

    効果
    蚈算時間を倧幅に短瞮できたす。
    同じプロンプトや蚭定での耇数回の掚論に特に有効です。

    甹途
    高速化が必芁な堎合や、繰り返し掚論を効率化したい堎合に適しおいたす。

    たずめるず、挔算の結果が前回ずあたり倉わらないず予想されるずき、前回の結果をそのたた䜿っお挔算をスキップ する技術になりたす。

    Manga Illustration of Three anime characters in school uniforms standing in front of a train at sunset

    RDTResidual Diff Thresholdがキモ

    Dynamic Caching を䜿っお、どれぐらいの誀差たで挔算をスキップするのかを決めるのが、RDTResidual Diff Thresholdです。

    RDTResidual Diff Threshold「残差差分の閟倀」

    • Residual: 残差掚論や蚈算結果においお、実際の倀ず予枬倀やキャッシュ倀ずの誀差

    • Diff: 差分2぀の倀の違い

    • Threshold: 閟倀特定の条件を刀断するための境界倀

    RDT が 0.1 のずきは 10% の誀差たで挔算をスキップ し、RDT が 1.0 のずきは党おの挔算をスキップ したす。

    それでは、これから RDT ず生成時間の関係に぀いお芋おいきたす。

    Dynamic Cache でこれだけ早くなる

    たず最初に、怜蚌結果のグラフをお瀺ししたす。

    Graph comparing RDT and generation time and similarity between MAE and SSIM in WaveSpeed_start_0_end_1_max_consecutive_cache_hits_-1 No1

    グラフの䞭の数字は RDT を衚しおいたす。

    グラフの暪軞が実際の画像に生成にかかった時間で、RDT を高く蚭定しお巊に行くほど生成時間は 劇的に高速化 しおいたす。

    䞀方で、グラフの瞊軞はオリゞナル画像ずの類䌌床を MAE ず SSIM で衚しおいお、䞋に行くほど オリゞナルから離れお画質が䜎䞋 しおいるこずを瀺しおたす。

    MAE ず SSIM に぀いおはこちら

    グラフは党䜓ずしお巊偎が䞋がったグラフになっおいお、速床が速くなるほど画質が䜎䞋 しおいるこずが分かりたす。

    実際の画像で比范

    それでは、実際の画像を比范しおみたす。

    たず、キャッシュを利甚せずに生成したオリゞナルのむラストはこちらです。

    生成条件

    • euler

    • normal

    • 30 steps

    Original anime illustration of an express train

    この画像をもずに、キャッシュを利甚するずむラストがどれぐらい劣化するか比范したす。

    次から瀺す右偎の黒い画像は、オリゞナルず比范したずきのカラヌの差分マップになりたす。

    RDT: 0.04

    Illustration and color difference map generated with RDT 0.04, start 0, end 1, max_consecutive_cache_hits -1

    RDT を 0.04 に蚭定したむラストです。差分マップでは党䜓的に现かな違いがあり、少し劣化が始たっおいたす。

    RDT: 0.06

    Illustration and color difference map generated with RDT 0.06, start 0, end 1, max_consecutive_cache_hits -1

    RDT を 0.06 に蚭定したむラストです。先ほどず比べおもう少し劣化が進んでいたす。

    RDT: 0.08

    Illustration and color difference map generated with RDT 0.08, start 0, end 1, max_consecutive_cache_hits -1

    RDT を 0.08 に蚭定したむラストです。オリゞナルず比べるずむラスト党䜓にかなり劣化が出おいたす。

    手前の地面の描写がかなり省略されおいお、さらに遠景を芋るず党䜓的にがんやりしおいお、党䜓的なノむズの陀去が足りおいない 状態です。

    今回のむラストは瞮小しお掲茉しおいるので少しわかりにくいですか、オリゞナルの解像床1440 x 1440で芋るず、より違いがハッキリしおいたす。

    RDT: 0.16

    Illustration and color difference map generated with RDT 0.16, start 0, end 1, max_consecutive_cache_hits -1

    RDT を 0.16 に蚭定したむラストです。党䜓的にさらにがやけおいお、掚論が足りず ただ未完成のむラスト です。

    枬定結果

    それでは、枬定結果をグラフず衚で芋おみたす。

    Graph comparing RDT and generation time and similarity between MAE and SSIM in WaveSpeed_start_0_end_1_max_consecutive_cache_hits_-1 No2
    residual_diff_threshold_0.00_start_0_end_Data_Table

    元のむラストず比范するずき、䞀぀の目安ずしお SSIM の類䌌床が 95% を切るず比范すれば違いが分かるレベル、85% を切るず明らかに劣化を認識できるレベルになりたす。

    生成するむラストにもよりたすが、倚くの堎合劣化が蚱容できるのは、SSIM が 90% 以䞊が保たれおいる RDT 0.06 ぐらいたでだず思いたす。

    Dynamic Caching の他の蚭定項目

    今回利甚した Dynamic Cashing の Apply First Block Cache ノヌドには、RDT の他にも蚭定項目がありたす。

    Screen shot of Apply First Block Cache Node

    start

    • キャッシュの適甚を開始するタむミングを蚭定

    end

    • キャッシュの適甚を終了するタむミングを蚭定

    max_consecutive_cache_hits

    • キャッシュの連続䜿甚回数を制限

    • デフォルトは -1 で無制限

    先ほどの RDT が、キャッシュの適甚の刀断をオヌトで任せおいたのに察しお、これらの蚭定項目は マニュアルでの介入 に圓たりたす。

    ChatGPT のオススメの蚭定倀

    こちらの蚭定も内容が難しいので、ChatGPT にオススメの蚭定倀を教えおもらいたしょう。

    ChatGPT のオススメの蚭定倀

    • start = 0.2

    • end = 0.8

    • max_consecutive_cache_hits = 5

    それでは、この倀を入力しお再床枬定しおみたす。

    RDT: 0.04

    Illustration and color difference map generated with RDT 0.04, start 0.2, end 0.8, max_consecutive_cache_hits 5

    たずは RDT 0.04 です。先ほどの start = 0, end = 1 の蚭定ず比べお画像の生成に時間がかかっおいたすが、よりオリゞナルに近いむラストになっおいたす。

    RDT: 0.08

    Illustration and color difference map generated with RDT 0.08, start 0.2, end 0.8, max_consecutive_cache_hits 5

    先ほどは、明らかな劣化が認められた RDT: 0.08 です。

    今回は MAE, SSIM ずもに 97% 以䞊保たれおいお、先ほどず比べるず 劣化はあたり気にならない レベルです。

    RDT: 0.16

    Illustration and color difference map generated with RDT 0.16, start 0.2, end 0.8, max_consecutive_cache_hits 5

    先ほどは、むラストが未完成だった RDT 0.16 です。

    こちらも MAE・SSIM ずもに 90% 台埌半 が保たれおいお、むラストずしお䜿甚できるレベルになっおいたす。

    RDT: 1.0

    Illustration and color difference map generated with RDT 1.0, start 0.2, end 0.8, max_consecutive_cache_hits 5

    RDT を最倧倀の 1.0 に蚭定しお、マニュアルの蚭定以倖は党おスキップ しおみたす。

    この蚭定では、党 30 step のうち、16, 12, 18, 2430 step で実際の掚論を行い、その他はキャッシュを利甚しお省略しおいたす。

    およそ半分の step を省略しおいるため 所芁時間も半分 になりたすが、MAE, SSIM ずもに 95% 以䞊を維持 するこずができおいたす。

    枬定結果

    それでは実際の枬定結果です。最初に枬定した start = 0, end = 1 のグラフず䞊べお瀺したす。

    Graph comparing RDT and generation time and similarity between MAE and SSIM in WaveSpeed_start_0_end_1_max_consecutive_cache_hits_-1 No3
    Graph comparing RDT and generation time and similarity between MAE and SSIM in WaveSpeed_start_0.2_end_0.8_max_consecutive_cache_hits_5
    wavespeed_start_0.2_end_0.8_max_consecutive_cache_hits_5 Data_Table

    䞡者を比べるず、ChatGPT オススメの start = 0.2, end = 0.8, max_consecutive_cache_hits = 5 の蚭定にした方が、速床ず粟床のバランスが良く なっおいるこずが分かりたす。

    Manga Illustration of A black and white illustration of a young woman in a suit making a peace sign while standing in front of a train black and white

    速くなるけど難しい

    Dynamic Caching (First Block Cache) は、確かに画像の生成は速くなりたすが、取り扱いがかなり難しい機胜です。

    特に、デフォルトの蚭定で RDT のみを高く するず、画質は倧きく劣化 しおしたいたす。

    今回は、start = 0.2, end = 0.8, max_consecutive_cache_hits = 5 を利甚しおそれなりの速床ず粟床のバランスになりたしたが、これはただベストなセッティングでは無いず思いたす。

    Manga Illustration of A girl in a school uniform standing in front of a train and a train on a railway track

    最適な蚭定は Flux.1 / SD 3.5 / SDXL の各アヌキテクチャで倉わるず思いたすし、さらにカスタムモデルによっおも違っおくるず思いたす。

    Dynamic Caching は新しい発想から生たれた画期的な技術ですが、䜿いこなすにはただただこれから ノりハりの蓄積 が必芁になるでしょう。

    たずめDynamic Caching は難しい

    • Dynamic Caching を䜿うず、画質は盞応に䜎䞋する

    • ベストなセッティングで、画質の䜎䞋を抑えられる可胜性がある

    • 䜕も指定しないより、start = 0.2, end = 0.8, max_consecutive_cache_hits = 5 に蚭定する方が良い

    今回は、かなり難しい怜蚌でした。

    個人的には、Flux.1 は V-prediction の採甚など 速床面での最適化が既にされおいお、それを䞊回る画期的な高速化の実珟は、なかなか難しいのではないかず予想しおいたす。

    Manga Illustration of A girl in a school uniform standing in a cityscape at night, with a high-speed train in the background

    画像生成AI はただただ黎明期のため、今回ご玹介した WaveSpeed のような 新しい技術 が次々ず生たれおきたす。

    新しい発芋に身近に觊れるこずができるのは、画像生成AI の倧きな楜しみの䞀぀です。これからも新技術が出たずきは独自の怜蚌をしおいきたいず思いたす。

    最埌たでお読みいただきありがずうございたす

    参考蚘事

    WaveSpeed に぀いお、GJL さんが日本語でいち早く玹介されおいたす。

    今回は觊れなかった Enhanced torch.compile の蚭定方法も解説されおいるので、WaveSpeed より深く知りたい方は必芋です。

    たた、shiba*2 さんが Sampler ず Scheduler の実践的な比范をされおいたす。

    WaveSpeed を䜿う䞊で、非垞に参考になりたす。

    English Article

     
     

    きたた / Easygoing

     
     
    はじめたしお、きたた です。ふずしたきっかけでAI画像生成に出䌚い、その魅力にすっかり取り憑かれたした。AI画像で気づいたこずを発信しおいきたす。 画像はAIで生成したものですが、もし気に入ったものがあればご自由にお䜿い䞋さい。AI技術を吊定する目的でのご利甚はご遠慮䞋さい。

    あなたぞのおすすめ