4ab46088eec4,011

http://nhiro.org.s3.amazonaws.com/a/d/ad2e1693f8a41912a03d1aaf11351372.jpg https://gyazo.com/ad2e1693f8a41912a03d1aaf11351372

(OCR text)

12

RNNにおける注意機構

固定長の隠れべクトルに全ての情報を記憶せず

可変長の記憶を持つことができるようになった

Output

固定長ベクトルを

可変個数持てる

Kes nd'Values

RMN

00-0

ke y

←持ち越せる

記憶がたくさん!

↑持ち越せる

固定長ベクトル

1 T 1

記憶が少ない!