ComfyUI-nunchaku
https://github.com/mit-han-lab/ComfyUI-nunchakumit-han-lab/ComfyUI-nunchaku
SVDQuantを利用した推論を行えるようにするComfyUiカスタムノード
導入方法
ポータブル版
Nunchaku自体のインストール
ComfyUIのpythonのバージョン確認
$ cd path\to\ComfyUI_windows_portable\python_embeded
$ ./python.exe --version
e.g. Python 3.11.9
ComfyUIのtorchのバージョン確認
$ ./python.exe -m list
torchの部分を探す
e.g. torch 2.5.1+cu121
Nunchakuのpip install
$ ./python.exe -m pip install <確認したバージョンに対応したwhl>
https://github.com/mit-han-lab/nunchaku/releases/tag/v0.3.0releaseから探してくる
https://gyazo.com/b794957b6c19cb626d5bb3c0e62a8388
今回の場合ではnunchaku-0.3.0+torch2.5-cp311-cp311-win_amd64.whlを選ぶ
対応するファイルを右クリックしてリンクのコピー、pip install のあとにこのURLを貼り付ける
$ ./python.exe -m pip install https://github.com/mit-han-lab/nunchaku/releases/download/v0.3.0/nunchaku-0.3.0+torch2.5-cp311-cp311-win_amd64.whl
ComfyUI-nunchakuのインストール
ComfyUI managerから
モデルのダウンロード
通常のモデルは使えず、SVDQに変換されたモデルが必要
https://huggingface.co/collections/mit-han-lab/svdquant-67493c2c2e62a1fc6e93f45cFlux devやfill等の基本的なものをここから
他にもSVDQ化されたモデルはいくつかあります
https://huggingface.co/theunlikely/svdq-int4-colossusProjectFlux_v10theunlikely/svdq-int4-colossusProjectFlux_v10
モデルはComfyUI\models\diffusion_models直下に、フォルダの中身全部ダウンロードする必要があります
e.g. https://huggingface.co/mit-han-lab/svdq-int4-flux.1-dev/tree/mainmit-han-lab/svdq-int4-flux.1-dev
$ cd path\to\ComfyUI\models\diffusion_models
$ git lfs install
$ git clone https://huggingface.co/mit-han-lab/svdq-int4-flux.1-dev
workflow
https://gyazo.com/abc5b569baa27a818a87f93b5cd20b35
Nunchaku_Flux_dev.json
🟪Nunchaku FLUX DiT LoaderノードでSVDQモデルを読み込む
同様にLoRA/text encoder用のNunchaku Loaderがある