2025/9/12の研究ログ

なぜ精度が落ちるのか確認しよう

CrossAttentionを使う部分の実装を見ると,実装した継承版のクラスではない方を使っていた

この関係を修正し,再度回してみる

まだ間に合うか?

やることはなんだっけ

GPUは70°を超えないようにした方が良いらしい

勘違いしていたが左の%ではなく,右のGPU-Utilが使用している量を表すようだ

結果

一番下にある

考えられる原因は以下らしい:

CrossAttentionの実装が誤っており,特徴量を反映できていない

融合時の呼び方が良くない

期待される特徴量とCNNの出力する特徴量の形状が合っていない

CNNとBEATsとの間でシーケンス長が異なっている

一旦理解は後回しで,修正版を回そう

本当はBEATsに特徴量を与えている点について,波形だけでなく,中間特徴量をもらっても学習ができるように調整が必　要らしい

後でこれも確認しよう

もしかすると,パスの問題でこれまでのCRNNの変更は適用されていなかったかもしれない

じゃあなぜ精度が変わったのだろう

sshリモートのファイルを最新版に入れ替えると,動かなくなった

パスのエラーを直しても別のエラー

現状を整理する

おそらく,BEATsの埋め込みを利用せず,学習済みモデルだけを使って推論しているので精度が落ちている

本当は埋め込みを計算し,CrossAttentionで結合したい

CrossAttention関連の実装が甘く,エラーが止まらない

code: log

┏━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━

┃ Runningstage.testing metric ┃ DataLoader 0 ┃

│ test/student/collar_f1_macro_thres05/sed_eval │ 0.3116306662559509 │

│ test/student/collar_f1_macro_thres05/sed_scores_eval │ 0.3120344710364363 │

│ test/student/intersection_f1_macro_thres05/psds_eval │ 0.5564944026368526 │

│ test/student/intersection_f1_macro_thres05/sed_scores_eval │ 0.5564944026368526 │

│ test/student/loss_strong │ 0.15118184685707092 │

│ test/student/psds1/psds_eval │ 0.2661310622541855 │

│ test/student/psds1/sed_scores_eval │ 0.27442115302947234 │

│ test/student/psds2/psds_eval │ 0.45876242075528323 │

│ test/student/psds2/sed_scores_eval │ 0.47037451487101123 │

│ test/student/segment_f1_macro_thresopt/sed_scores_eval │ 0.5294959176010909 │

│ test/student/segment_mauc/sed_scores_eval │ 0.9407783301923797 │

│ test/student/segment_mpauc/sed_scores_eval │ 0.6009082850906077 │

│ test/teacher/collar_f1_macro_thres05/sed_eval │ 0.32665884494781494 │

│ test/teacher/collar_f1_macro_thres05/sed_scores_eval │ 0.3267379543949715 │

│ test/teacher/intersection_f1_macro_thres05/psds_eval │ 0.5718122960641587 │

│ test/teacher/intersection_f1_macro_thres05/sed_scores_eval │ 0.5721250229848152 │

│ test/teacher/loss_strong │ 0.14395175874233246 │

│ test/teacher/psds1/psds_eval │ 0.28134064835252026 │

│ test/teacher/psds1/sed_scores_eval │ 0.2871731519109505 │

│ test/teacher/psds2/psds_eval │ 0.4592336763125949 │

│ test/teacher/psds2/sed_scores_eval │ 0.469514612855237 │

│ test/teacher/segment_f1_macro_thresopt/sed_scores_eval │ 0.5185906115839752 │

│ test/teacher/segment_mauc/sed_scores_eval │ 0.9443460281564221 │

│ test/teacher/segment_mpauc/sed_scores_eval │ 0.596618743910724 │

└────────────────────────────────────────────────────────────┴────────────────────────────────────────