Ollama
#ローカル生成AI #LLM #生成AI
https://ollama.com/
ローカルLLM実行ソフト
簡単に公開されてるモデルをダウンロードして実行したり
モデルの管理
他のアプリケーションと簡単にやり取り出来るようにする
http://localhost:11434/apiを通してAPIでやり取りする
内部でllama.cppが動作して推論してる