FLにおける事前学習済みモデルの検討
from FLで教師データをどうするか
FLにおける事前学習済みモデルの検討
Pre-Trained Models, PTM
継続学習との組み合わせに関するサーベイ: Continual Learning with Pre-Trained Models: A Survey
FedPCL,Federated Prototype-wise Contrastive Learningという研究があるらしい
事前学習済みモデル,PTMを使用
ファインチューニングを行う
Parameter-Efficient Fine-Tuning (PEFT)のFL応用
連合継続学習, FCL
Knowledge Distillationも良さげ