ローカルLLMを使う - pogi-log

ローカルLLMを使う

ローカルLLMを使うには

llhama.cppでローカルLLMを動かす

https://x.com/7shi/status/1826352746691526885?s=46

Jan: Open source ChatGPT-alternative that runs 100% offline - Jan

モデル

https://huggingface.co/mmnga/Fugaku-LLM-13B-instruct-gguf

日本語LLM

llm-jp/awesome-japanese-llm: 日本語LLMまとめ - Overview of Japanese LLMs

#メモ・記録・ログ