ComfyUIのVRAMを処理が終わったら解放させるノードなど
ComfyUI-BAGELやComfyUI-QwenVLといったVisionモデルのカスタムノードを使った後、そのままComfyUIのネイティブノードで生成しようとしたときにVRAM不足で処理が止まったりしやすいので不要になった処理のモデルを開放するノードを組み合わせるための備忘録
現時点ではとりあえず調べただけでうまくいくかは試してない(試したものから結果は書くと思う)morisoba65536.icon
https://github.com/u5dev/comfyUI_u5_VramFREEu5dev/comfyUI_u5_VramFREE
ひとまずACE-Stepのネイティブノードにつないでみて呼び出したタイミングでVRAM開放できることは確認(ACE-stepなのは単に今日生成したのがそれだからなので特に意味もメリットもない)
ただ、audio出力ノードには繋げれない(≒audioノードをトリガーにできない)ようなのでトリガーは画像・Video等の系列のノードである必要がありそう
また、トリガーをもとにチェックポイントを遅延読み込みするノードは🦊Load Diffusion Modelnノード相当のものがないため、これらのモデルでサンプルのようなモデル読み込み直前にクリア、と言う処理をするには一工夫必要になるかも?
https://github.com/SeanScripts/ComfyUI-Unload-ModelSeanScripts/ComfyUI-Unload-Model
https://github.com/lokinou/comfyui-better-flowlokinou/comfyui-better-flow