ollama
https://scrapbox.io/files/662bc1112435d40023b75f57.png
オープンソースの大規模言語モデル（LLM）をローカルで実行できるOSSツール
Mistral
、
Llama3
、
Phi-3
など、オープンソースの大規模言語モデルを、簡単にローカルで動作させることが可能
https://ollama.com/
https://github.com/ollama/ollama
参考
GUI版が良いという人は、
LM Studio
というツールもある。
https://note.com/masayuki_abe/n/nd65ed694eec0
ollamaを使うことで、普段使いのPCで驚くほど簡単にローカルLLMを導入できる？
https://qiita.com/misu007/items/4d629957a2099abe875b