リザバーコンピューティング
参考資料
https://www.youtube.com/watch?v=wbH4En-k5Gs
物理リザバー
メモ
リザバー強度、繋がり方の調整自動化する枠組みがある
ハイパーパラメータ、結合の強さと、本数
物理リザバーに必要な要素: 非線形系、次元高い、減衰振動
ESN
リザバーの状態x(n)更新
n = 時刻
時刻nに当たる値(x)がどう決まるのか?
n - 1
n時刻から 1ステップ前の状態
W rec = リカレント結合、行列
W rec × x(n - 1)
行列とベクトルの掛け算をしている
入力信号 u(n) × W in
行列 W in × u(n)
f() は 非線形関数, tanh x
出力
y(n)
xの状態にWoutの行列を掛ける
学習で変化するパラメータはWoutのみ
出力信号と目標信号が一致するようなWoutを求める
DT X (XTX + λE) -1
Dが目標信号の時系列
Xはリザバーの中の状態の時系列
行列の掛け算と足し算、逆行列のみ行っている
リザバーの特徴
機械学習モデルだと勾配法を使う、パラメータを少しずつ調整する
リザバーだと省ける
時系列データだと長いデータ
code:tex
\begin{equation}
\end{equation}
\begin{equation}
y_k(t) = \sum_{n=1}^{N} W^{\text{out}}_{k,m} x_n, \quad i = 1,...,N \quad k = 1,...,K
\end{equation}
時系列の予測
1ステップ先の状態を出力するように学習
LSM (リキッドステートマシン)
スパイキングニューロンモデル
計算論的神経科学