Automatic Mixed Precision
#PyTorch
float16とfloat32を混ぜて(Mixed)計算することで, GPUのMEM使用率を抑えることができる
計算スピードも幾分速くなるらしい
略して
amp
https://qiita.com/Sosuke115/items/40265e6aaf2e414e2fea
https://tawara.hatenablog.com/entry/2021/05/31/220936