4ab46088eec4,038

http://nhiro.org.s3.amazonaws.com/9/b/9b2c1669de7f4b380baf412666baf16c.jpg https://gyazo.com/9b2c1669de7f4b380baf412666baf16c

(OCR text)

39

ふたたびBERTの話

BERTはこのTransformerを積み重ねて

「単語の一部をマスクし、それを当てる」

という穴埋め問題を解かせる

「マスク」について