LongLoRA
https://arxiv.org/abs/2309.12307LongLoRA: Efficient Fine-tuning of Long-Context Large Language Models
計算コストを制限しながらコンテキスト長の長いモデルのLoRAを学習する
https://gyazo.com/49a3817ef04afb90c116fa7b74392b88
perplexity