音響イベント検出のモデル構造をどうするか
from 2025/7/18の発表の構想を再考する
音響イベント検出のモデル構造をどうするか
関連: 音響イベント検出モデルの良さげな論文を集める
ASiT-CRNN: A method for sound event detection with fine-tuning of self-supervised pre-trained ASiT-based modelが非常に参考になる
こういう論文を探したい
CRNN(LSTM+GRUなど) + Transformer
事前学習済みモデル(Transformer?)+ CRNN
2024年タスクのベースラインと論文が参考になりそう > DCASE 2024
データの異質性も気にしているし,2023年以前より手法が洗練されていそうだから,2024を見た方がいいのかな
2022,2023も一緒に見
x 学習の方法をどうするか
事前学習部分を固定し,特徴量抽出機構として使用?
固定せず,ファインチューニングする
どっちもやれば良い
あとは先行研究次第かな
x モデルサイズをどうするか
一旦気にしない方向で行く
ひとまず小さめで試す
それで十分な精度上昇が見込めれば良い
ダメそうならサイズを上げる
知識蒸留はまだ試さない > 追加実験でやる
スケーラブルなモデルを組む必要がある
FLだとクライアント数
モデルサイズを柔軟に変更できるアーキテクチャが望ましい
量子化を踏まえても,少なくともBERT部分は差し替えができるような構築が良い
多分平気だと思う