FP16
FP32
に対する半精度。
歴史的には割と古くてそのため大抵の近代的なハードウェア(生成AIを動かそうとするようなマシン)ならほぼ確実に対応しているのがメリット
歴史のお話をすると元々はテクスチャデータがデカくなりすぎて困るのでストレージ節約のために作られたらしい。
AI用途では同じ容量(ファイルサイズ/使用する
VRAM
)でより高精度になりやすい
BF16
が現在では主流…
だがBF16は微妙にハードウェアレベルで対応してない
CPU
/
GPU
(主にRadeon)などが多く、互換性を優先するならこちらを使う。
もしくはVRAMを犠牲に
FP32
を…