時系列分析
モチベ
時系列データと時系列モデルを あつかう。
上位分野
ベイズの応用だと考えられそう。wint.icon
頻度論的なアプローチは別にあるらしい。
推論(技術)
予測制御
e.g. ロボット制御
統計的に解ければ十分。
別に 解析的に解く必要は ない。
概念
確率過程
仮定
時系列データが確率変数の系列に従うと みなす。
モデル化
時系列モデル
区分
定常過程
非定常過程
時系列
時系列データ → 時系列分析 → insight
季節効果
対策
季節調整
具体的には、周期の長さで総和を取れば良い。
予測確率
p(Y(t)|Y(t-1))
同時確率分布の分解公式
最大事後確率解
en: MAP (= max a posteriori) estimation
MAP推定の解
確率差分方程式
e.g. 正規分布 = 平均 + ノイズ
cf. 確率微分方程式
ノイズ
観測ノイズ、測定ノイズ
更新ノイズ
aka. system noise
モデルの例
2階差分トレンドモデル
トレンドモデル
トレンド成分のノイズ成分を分けてモデリングしたい。
漸化式で あらわす。
差分方程式になる。
ベクトルと行列で表現できる。
en: system model
en:
e.g. 線形ガウス空間モデル
システムモデル
system noise のモデル
隠れ変数相当
状態ベクトル
1階差分方程式
2次元ベクトル
2階差分方程式
3次元ベクトル?
時刻依存も可
aka. probabilistic graphical model
classes
UPIN = undirected probabilistic independent network
MRF = Markov random field
DPIN = directed probabilistic independent network
Bayesian network
⊂ DAG
鎖状構造 graphical model
probabilistic independent network とは?wint.icon
現象
有向分離
潜在変数
aka. 隠れ変数
Bayes modeling の常套手段
3つの分布・3つの操作
list
予測
→
(i|i) → (i+1|i)
filtering
↓
smoothing
←
非線形 filtering
aka. 逐次 Bayes filtering
= 1期先予測 + フィルタリング
対角線から右に1つ動く。
対角線の上から下に1つ動いて戻る。
同時にやると↘
(i|i)→(i+1|i+1)
algorithms for graphical model
smoothing algorithm
subclasses
固定区間平滑化
ラグ幅 → ∞ とも言える?wint.icon
マルコフ性2つを仮定する。
固定ラグ平滑化
ラグ幅: Z
状態ベクトルをZに拡大する。
更新に関してのデータの局所性を活用する。
同じくマルコフ性が使える。
固定点平滑化
真下に移動する: (j|i) → (j|i+1)
状態ベクトルを1だけ拡大する。
→ 自己組織型状態空間モデル
ja: 統計集団
精度を向上させるための手法
1 step 予測が解析的に与えられておらず、シミュレーションが手続きやプログラムとして与えられる。
モデル
分類
トレンドモデル
季節調整モデル
一般状態空間モデル
例
線形ガウス状態空間モデル
一般化
線形・非ガウス状態空間
非線形・非ガウス状態空間
非線形ガウス時系列モデル
graphical model
鎖状構造 graphical model
Markov 性を仮定すると単純化できる。
用途別
state-space model
2 parts
system model
observation model
アルゴリズム
カルマンフィルター
cf. 隠れMarkovモデル
粒子フィルター
⊂ online algorithm、推定法
cf. 逐次モンテカルロ法
vs. MCMC
⊂ offline algorithm
Bayes model の推定に使う。
ベイズ最適推定を漸近的に得られる。
前提
Markov過程
応用
確率robotics
独自記法wint.icon
$ ¬\{t\} ≡ \{t\}^∁
技法
拡大された状態ベクトル
ラグ幅の分の点を繋げてベクトルに拡大する。
条件つき周辺分布の簡易表記の2次元表
縦: データ数(データの時刻)
横: 期数(状態ベクトルの時刻)
セル: 条件つき確率分布
ensemble approximation
アンサンブルで近似すること
Monte-Carlo 近似
サンプルで分布を近似するアルゴリズム
特に状態ベクトルが高次元なときに有用
他の手法は実用性が なかった。
用語
粒子
aka. ensemble member(アンサンブル・メンバー)
cf. 粒子フィルター
一様分布で得られる。
粒子フィルター
⊂ 逐次データ同化法
シミュレーションとして見る場合
特に ensemble-based 逐次データ同化
simulation & 同化の繰り返し
多数の system noise の分布について、個々の分布を sampling によってδ関数で近似する。
アンサンブルなので問題なく近似できる。
式は、積分を出して、それを代入と総和N个で書ける。
状態ベクトルとシステムノイズもN个
別にN×M个で近似しても良い。
最終的には(離散)δ関数の総和に なる。
力学的な描像がある(略)。
一巡
予測
(観測)
ここに入れることも ある。
filtering
尤度計算
尤度(datumからの確率)を計算して重みを更新する。 重みの総和は 1 に正規化する。
resampling
resampling
粒子の同確率性を保証するために、復元抽出で取ってアンサンブルする。
abbr. MA
list
CA
aka. EMA
vs. moving median
ベイズの手法いろいろ
パラメーターを一点推定する。
フルベイズ
事後分布から代表値を取る。
e.g. 平均値
擬ベイズ
複数モデルの平均
書籍
『予測にいかす統計モデリングの基本: ベイズ統計入門から応用まで』改訂第2版、KS理工学専門書
『実践 時系列解析』、O'Reilly
ref.
Time series analysis comprises methods for analyzing time series data in order to extract meaningful statistics and other characteristics of the data.
https://www.youtube.com/watch?v=IUuWujQyJBI