CIとモデリングと最適化
CIとモデリングと最適化
相吉英太郎（統計数理研究所）
■CIとModellingの関係(ModellingにおけるIntelligence)
“Model”を用いた“Intelligence”の定義
「物事や現象を対象としてその“Model”を構築することで認識および解釈し，それらに基づいて判断・決定・制御などの処理をする頭の働き」？
Modelの定義は？
「物事や現象の認識や解釈のために、それから法則性・普遍性などの本質を抽出するために記述した言語・記号・数式、あるいは構築した図形や模型」？
ModelとIntelligenceは不可分
CI(Computational Intelligence)との関係も含めて、presentation-representationという概念も用いてイメージ化すると…
https://gyazo.com/091203f1d4e3314fdc4b50ff91699653
representationの「外界の対象の像」を具現化したものがmodel？
Model の意味
OXFORD英英辞典では8番目の意味として例文や熟語付で7行もの説明
Description of System a simple description of a system, used for explaining how sth works or calculating what might happen, etc: the standard economic model of supply and demand ◇to propose/construct/test a model ◇She developed a computer model to help farmers with pest control. ◇according to a ~ According to this model, by the middle of the century temperatures will rise by 1~3°.
日本語の辞書では「モデル」に的確な説明がない！
日本語に訳すと…
Model ⇔ 模式(辞書にある)・模図・模象？
Modelling ⇔ 模式化・模図化・模象化
■Computational Intelligence (CI) & Artificial Intelligence (AI)(注) (注)近年ブームのAIのこと
CIとAIの違いは？
Physical Model (P.M.)を意識するかVirtual Model (V.M.)だけで閉じるかの違い！
P.M.：モデルの要素(Elements of Model)を材料として、モデリングの手法(Modelling Method)により、現実の現象を模倣・説明するために構造化されたモデル
→Modelling Methodがない？→「モデル学」「モデリング学」が必要
V.M.：仮に想定したモデル
ex. 線形モデル(「線形」は仮想！ 線形とすると線形数学が使えて便利だから！)
ex. 基底関数の線形重ね合わせモデル(乗算と加算だけで計算が楽だから！)
人工ニューラルネットワーク(N.N.)はシグモイド関数やラジアル関数の重ね合せ
AIのDeep N.N.も2結合層N.N.の入れ子化
P.M.かV.M.かは相対的！
P.M.を構成する要素は仮想するしかない？ P.M.の要素はV.M.では？
V.M.をモジュールとして組合せることでP.M.を構築してもよい！
P.M.を「線形結合」して構築したモデルはV.M.？
これらのようにP.M.を意識してV.M.を駆使するのもCIの領域！
→システムズアプローチが必須
■ModellingのためのSystems Approach
Systems Approachの必要性
要素から全体モデル構築のために
小規模から大規模なモデル構築のために→Model of Models (MoM)
V.M.(AI)とP.M.の結合のためのSystems Approach
ex. V.M.とP.M.の直列結合やフィードバック結合
→V.M.(AI)とP.M.を組み合せたモデルで同時学習/同時同定/同時データ同化
AIには本質的に不能なことがある！
AIは「前向き推論」が可能(〇)でも「後ろ向き推論」は不能(×)
〇 $ \bold{y} = AI(\bold{x});\ \bold{x};\ given,\ \ \bold{y} = ?
× $ \bold{y} = AI(\bold{x});\ \bold{y};\ given,\ \ \bold{x} = ?
システム最適化というシステムズアプローチで解決！
→最適化モデルの制約条件という要素にAIを使用
$ \min \limits_\bold{x} {F(\bold{x})}
$ subj.\ to\ AI(\bold{x})=\bold{y}\ (given)
AIのlearningとoptimizationを同時にしたい！→新システムズアプローチ
ピッグデータは必要ない！ 最適解 $ \bold{x}^o付近の正確なデータさえあればよい？
■Modelling の対象
対象はあらゆる現実や現象 ex. 問題意識のモデル・問題を解くモデル
方程式モデル・不等式モデル・最適化モデル・探索モデル・反復モデルなども
Modelとしての条件
異分野の異なる対象のModelに類似性(Analogy・Similarity)・共通性(Commonality)
→P.M.への期待
異分野Modelの類似性の例
OXFORD英英辞典が引用している“economic model of supply and demand”を例として
市場の「動態モデル」 自動制御系の積分「制御モデル」
$ \frac{dp(t)}{dt}=c(x^o(p(t))-y^o(p(t))) \Leftrightarrow p(t)=p(0)+c\int_{0}^{t}\left(x^o(p(\tau))-y^o(p(\tau))\right)d\tau
$ x^o(p)；価格pに対する需要量 $ p；操作量
$ y^o(p)；価格pに対する供給量 $ x^o(p)-y^o(p)；出力量の偏差
$ \Updownarrow
双対問題
$ \max \limits_p{\min\limits_{(x,y)}{L(x,y;p)}}
$ where\ L(x,y;p)=f(x)+g(y)+p(x-y)；Lagrange関数
に対する最急上昇法の「最適化計算モデル」
$ \frac{dp(t)}{dt}=c(x^o(p(t))-y^o(p(t)))
$ where\ \left(x^o(p),y^o(p)\right)=arg\min\limits_{(x,y)}{L(x,y;p)}