AdaViT
#paper
残差構造・selection構造を組み込んだ
ViT
Patch Selection : パッチを選定
Head Selection : ヘッドを選定
Block Selection : MHA・FFNを使うかどうか選定
https://gyazo.com/6f514ea4f1a9c195b9bc2fb52a0a46e5
https://arxiv.org/abs/2111.15668