Ollama
https://gyazo.com/868c529a968903cca5bcd17c6885b50d
https://ollama.com/
https://github.com/jmorganca/ollamajmorganca/ollama
LLaMA/Llama 2等LLMモデルをローカルで動かす
2024/12/6
https://ollama.com/blog/structured-outputsStructured Outputに対応
v0.1.25
Windowsに対応
LLM UI
一応コマンドフロントエンドもあるけど、UIとは程遠い気がする
これデーモンとして動きOpenAI互換のAPIを提供するので、バックエンドのほうが近いかな