LLMの高速化
https://zenn.dev/kaeru39/articles/1ea73bfa40c7df
ローカルLLMの推論速度を高速化する5つの手法と比較評価
torch.compile
FlashAttention
FlashAttention-2
vLLM
https://gyazo.com/ecb63de41bcc9bf1f1be5c811a834101
https://huggingface.co/collections/VoladorLuYu/efficient-llm-65af19e1e0ea35ad619b3fdd
efficient-llm