DeepSeek
https://chat.deepseek.com/
https://apps.apple.com/cn/app/deepseek-ai-智能助手/id6737597349
LM Studio
を使って、DeepSeek-R1-Distill-Qwen-14B-IQ3_M.ggufを試す
https://huggingface.co/bartowski/DeepSeek-R1-Distill-Qwen-14B-GGUF/blob/main/DeepSeek-R1-Distill-Qwen-14B-IQ3_M.gguf
思考時間が長いけど、動く、日本語で会話できる
返答に1分ぐらいかかる、俺のPC環境だと
https://huggingface.co/mmnga/DeepSeek-R1-Distill-Qwen-7B-gguf/blob/main/Q6_K/DeepSeek-R1-Distill-Qwen-7B-Q6_K-00001-of-00001.gguf
これの方がいいんかな、俺のVRAMあんま無いし、7Bに下げて、これLM Studioからダウンロードしようとしても出来ないな、ggufダウンロードしてフォルダに直接放り込んだらいいんかな？試してみるか
#LLM
AIアシスタント
生成AI