Ollama
https://gyazo.com/868c529a968903cca5bcd17c6885b50d
https://ollama.com/
https://github.com/jmorganca/ollamajmorganca/ollama
LLaMA/Llama 2等LLMモデルをローカルで動かす
2025/05/30
https://ollama.com/blog/thinkingReasoning Modelに対応
2024/12/6
https://ollama.com/blog/structured-outputsStructured Outputに対応
v0.1.25
Windowsに対応
LLM UI
実質的なフロントエンドとしてOpen WebUIが使われている
中身はllama.cpp
GGMLライブラリは相変わらず利用しているものの、推論エンジンの一部をgoに移し替えるなどしてフォークされた独自エンジンに切り替わったようだ。
一部がGo言語になった…と言うのが少しややこしいところでllama.cppの変更をollama側で取り込むことは比較的簡単(GoからC/C++は呼び出せるため)なのだが、Goで実装されたものをC++に移植するのは難しくなるため、結果的にほぼ「llama.cppの成果にただ乗りしている(元のプロジェクトへの還元がない)」と各種コミュニティで言われることもあったりと少々荒れる元になっている。