Jan
https://scrapbox.io/files/6639cc8dea69d50024dcaf5f.png
Local LLM
を簡単に動かす、OSSのGUIサービス
https://jan.ai/
ダウンロードからローカルで動作させて実際にチャットするまでの流れをすべてGUIで実行できる。
LLMとサクサク会話するには、NVIDIA製GPUを搭載マシンかAppleシリコン搭載Macの使用が推奨されている。
https://gigazine.net/news/20240331-jan-ai-gui/
Groq * Llama3
https://singula2045.hatenablog.com/entry/2024/04/25/230747
https://scrapbox.io/files/6639ced50028ad0023ebdbe1.png
https://twitter.com/0317_hiroya/status/1787735429355327695