SimCSE
#paper
#自己教師あり学習
#NLP
https://gyazo.com/54da476b5c4176cec254b0759b90b569
ENMLP21
Supervised SimCSE
含意関係にある文を正例として対照学習
NLIデータセット
Unsupervised SimCSE
同じ文を二回埋め込んで
対照学習
dropoutの影響で微かに異なる
二つのベクトルに対して対照学習
https://gyazo.com/a000ad2cb4cee11b4a409f64b9c4d2b3
引用:
https://www.slideshare.net/DeepLearningJP2016/dlsimcse-simple-contrastive-learning-of-sentence-embeddings-emnlp-2021