Q-Diffusion
= Quantizing Diffusion Models
https://arxiv.org/abs/2302.04304
要約を要約 by ChatGPT.icon
Diffusion Modelを効率的に使うために、ノイズ推定ネットワークを圧縮する「後学習量子化(PTQ)」の手法を提案しています。
既存のPTQアプローチでは扱えない、拡散モデルの複数の時間ステップにわたるノイズ推定ネットワークの出力分布の変化を効率的に扱うことができます。
実験の結果、8ビットまたは4ビットのモデルに完全な精度の拡散モデルを直接量子化することができ、FID変化が最大で1.88にとどまり、同等のパフォーマンスを維持することが示されました。
また、テキストを指示する画像生成にも適用することができ、初めて4ビットのウェイトでStable Diffusionを実行することができます。
合ってるかどうかの確認はしてないnomadoor.icon