koboldcpp
https://github.com/LostRuins/koboldcpp
LostRuins
/koboldcpp
https://github.com/LostRuins/koboldcpp/releases/tag/v1.29
koboldcpp-1.29
KoboldAI
のUIを使って
GGMLモデル
を動かす
exeでリリースされているのでシンプルで分かりやすい
#GGML