メインコンテンツへスキップ
見出し画像

Pytorch2.4.0+cu12.4に内装されているCUDAの手動更新方法(※効果未知数)

    最初に書いておきますが、効果に関しては完全に未知数です。自分では全く体感でわかりません…というレベルの話です。

    CuDNNの手動更新方法については過去2回にわたって記事化し、特にPytorch2.3.1+Cu12.1以前のPytorchに対しては特にA1111のi2iにおけるVRAM削減効果が大きい為に、反響もそれなりに頂いていましたが、
    (だからこそ、Kohya GUIでもオプションとしてCuDNN置き換えオプションがある)

    Pytorch2.4.0には最初からCuDNN9.xが内装されている為、手動でCuDNNを更新する(※現時点の最新は9.3.0)ことに意味があるかも微妙ですが、

    CuDNNにおいて単純にdllファィルの置き換えだけで手動更新できるなら、CUDAに関しても同様なのではないかと考えました。
    (CUDAの手動更新にVRAM削減や高速化効果があるかは完全に別次元の話として、純粋に方法論として可能かという意味において)

    CUDAの場合、更新すべきdllファイルの選定にやや手間が必要でしたが、
    (間違えると完全にWebUIが起動しなくなる。しかし逆に言えば、だからこそ分かり易い)

    Pytorch2.4.0+cu12.4に対して現時点最新のCUDA12.6用のdllファイルを適合させる方法はわかったので、記載します。

    端的に結論から。

    置き換えるべきdllファイルはCUDAをWindowsにインストール後に構成されるフォルダ内にある以下の8個です。

    画像

    置き換えるべき場所に関しては、CuDNNと同じです。上の記事を参照してください。

    場所に関してはA1111、Forge、reForge、ComfyUI全てのWebUIに対して同様です。仮想環境がvenv形式かPortable形式かで、フォルダパスは微妙に違いますが。

    現時点においては効果そのものよりも、これらの手動更新方法を知ることによって、PytorchにおいてCUDAとCuDNNがどのように内装されているかを理解できる…点に意味があると考えます。

     
     

    GJL

     
     
    Road bike&Cycling Road Race, Respecting Mr.Greg LeMond, & Anti Doping, Football, Rock&Pops, History.

    あなたへのおすすめ