2025-02-09
https://www.youtube.com/watch?v=oNL5JLor2P8
ニンフと心の見せ合いっこしましょ
https://img.cdn.nimg.jp/s/nicovideo/thumbnails/44631921/44631921.47593191.original/r1280x720l?key=fd8953b8714621d90f311500df9c57d43b39129b81d23ae3dd732db9f99e6d3d&dummy.png
AI
試してみようかな
Q4、Q5らへんがいいらしい、これはLLMの奴でやけどそれ以外も同じ感じなんかな
Kのついたものが「k-quantメソッド」なる新方式による量子化モデル。Kのない4bit/5bit量子化(q4_0, q4_1, q5_0, q5_1)は旧方式のレガシーなので基本的に選ばない。