4ab46088eec4,047
http://nhiro.org.s3.amazonaws.com/d/d/dd19366716c8039ee61229d61f4cc40e.jpg https://gyazo.com/dd19366716c8039ee61229d61f4cc40e
4ab46088eec4,046 4ab46088eec4,048
4ab46088eec4
(OCR text)
48
MASK
ランダムな単語をランダムな単語に置き換えた
場合「この単語は置き換えられたものか?」と
いう二値分類がサブタスクとして存在している
MASKトークンに置き換えるのは、 そのサブ
タスクに正解を与えている状態
·ランダム単語への置き換えだけで
良いのでは
Nearest: 4ab46088eec4,054