stable-diffusion.cpp

https://gyazo.com/81d0850c249add2c45b087114fb5c411

https://github.com/leejet/stable-diffusion.cpp/raw/master/assets/a%20lovely%20cat.png

C++によるStable Diffusion/Fluxの推論コード

GGUFモデルへの変換機能もある。現在お手軽にFlux系モデルをGGUFにするならこれを使うのが一番楽

マニュアルが追いついてないがq6_K,q5_K(qは小文字でKは大文字じゃないとNG)オプションが使えるようになってるのでそのへんを使うのがおすすめ

多分q5_KはSの方になるっぽい？