2025/9/17の研究ログ
from 卒論で行うSEDの工夫を実装 ログ
2025/9/17の研究ログ
2025/9/15の研究ログの続き
CrossAttentionのQ,K,V周りのshapeを確認する
問題の部分
code: log
2025-09-17 12:37:32,469 - desed_task.nnet.CRNN - torch.Size(60, 16, 313, 64) - torch.float32 - cuda:0 - cnn_feat: %s
2025-09-17 12:37:32,469 - desed_task.nnet.CRNN - torch.Size(496, 60, 1536) - torch.float32 - cuda:0 - beats_feat: %s
2025-09-17 12:37:32,521 - desed_task.nnet.CRNN - - - - - - - CrossAttention forward: query_feat shape=torch.Size(60, 16, 60, 1) dtype=torch.float32 device=cuda:0
2025-09-17 12:37:32,521 - desed_task.nnet.CRNN - - - - - - - CrossAttn: query_reshaped shape=torch.Size(60, 60, 16) dtype=torch.float32 device=cuda:0
2025-09-17 12:37:32,522 - desed_task.nnet.CRNN - - - - - - - CrossAttn: key_value_feat shape=torch.Size(496, 60, 1536) dtype=torch.float32 device=cuda:0
2025-09-17 12:37:32,522 - desed_task.nnet.CRNN - - - - - - - CrossAttn: key_value_reshaped shape=torch.Size(496, 60, 1536) dtype=torch.float32 device=cuda:0
Queryは3次元?になっている
Keyはreshape後も中身が変わっていない
if文の条件的に変更できない
elseに形状を変える類のコードがない
beats_featは最初は生音声 > 埋め込みで,二週目以降はCNNの埋め込みとの結合だったはず
一週目で詰まっているので,次元の意味を確認しよう
やはりcatしている < 論文でやっていたのって,二層目の特徴量をもらうことであって,二層丸々ではないのでは?
2025/9/18の目標
CrossAttentionのエラーを解決する
Confident Mean TeacherとMambaを簡単に実装する
資料作成は2025/9/19で良い
思考し続けることを思い出したので,明後日で間に合うだろう