最適化理論（2019）
第12回. 7/9 （火） 口頭試問・コード作成 （できるだけ，このあたりまでで，口頭試問完了）
第13回. 7/16 （火）．口頭試問・コード作成（口頭試問は、7/19金までに完了させる）
--------- 7/29 （月） 18:00 レポート提出締切（厳守．ともかく提出）
第15回. 7/30 （火） レポート講評．少し高度な話題．まとめ．
レポート提出上の注意（追記）
第14回. 7/23 （火） の欄参照
レポートの1枚目には、学生番号、名前、日付（年入り）、（適切な）タイトルを書くこと。
レポートのテンプレートファイルは、コード置き場に置いています。
応用課題5.
ハミング距離のヒストグラム
横軸 d：距離
縦軸：個数（1000個のうち、距離がd であった個数が何個あるか。棒グラフ）
https://gyazo.com/db4644a6802392f53277f4a8745d37da
自分のノートパソコンを有効に使う
最適化
最大化，最小化
確率・統計
平均，分散，共分散，分散・共分散行列，標準偏差，ヒストグラム
正規分布（Gauss 分布），標準正規分布
（擬似）乱数の生成，線形合同法（Linear congruential generators, LCGs）
確率密度関数
条件付き確率，Bayes の公式，事前確率$ p(x)，事後確率 $ p(x | y)
アルゴリズムとデータ構造
動的計画法
$ \max_\bm{x} f(x_1,x_2) + f_(x_2,x_3) + f_(x_3,x_4) + \cdots
$ \max と $ {\rm argmax}
$ \bm{x}^* = {\rm arg}\max_\bm{x} f(\bm{x})
$ f(\bm{x}^*) = \max_\bm{x} f(\bm{x})
プログラミング
C言語
Python
ツール
グラフの表示（gnuplot, matplotlib など）
ソフトウェア工学
テスト
時間に余裕がある場合
遺伝的アルゴリズム
ニューラルネットワーク（神経回路モデル）、深層学習
毎回，ノートパソコン持参
Linux の環境を推奨
AWS Cloud9
Python であれば，Google Colab で作業できる．
第15回. 7/30 （火）
レポート課題 講評 30 min.
$ y_i の生成の仕方
「$ y_i は，平均 $ x_i 標準偏差 $ \sigma の正規分布にしたがう」
code:--- log をとるのはコンピュータにはさせない．
C00 = -(y0-0.0)*(y0-0.0)/(2.0*SIGMA*SIGMA) C01 = -(y0-1.0)*(y0-1.0)/(2.0*SIGMA*SIGMA) 大量の Xmap と Xorg の比較：形が違うのに気がつく
パラメータ（$ p_{00}=0.99, p_{11}=0.97など）と信号の同時推定．
事後確率の計算の仕方 30 min.
https://gyazo.com/899da8f0b11b1cde5fc1ad5241805eb1
事後確率分布からのサンプリング
確率的生成モデル：脳の情報処理としてのモデル 10 miin.
LaTeX Overleaf
夏の読書
https://gyazo.com/1c579701606c67efa0584171b80407c9https://images-na.ssl-images-amazon.com/images/I/51FoSTiivwL._SX350_BO1,204,203,200_.jpghttps://images-na.ssl-images-amazon.com/images/I/51nP%2BzzRy5L._SX394_BO1,204,203,200_.jpghttps://images-na.ssl-images-amazon.com/images/I/41rQdQryYqL._SX347_BO1,204,203,200_.jpg
9/13金 午後 県庁7号館
佐藤 理史 (著)
佐藤 理史 (著)
授業評価アンケート 5 min.
前半部分，後半部分
webclass
今回：
はじめての試み．どのくらいうまくいったか．
この課題をこなすために必要となる話題（ほとんど復習）に集中し説明．
最適化理論は，もっと広い （とくに最近の機械学習）
講義時間帯に演習時間を設けることについて
今回は，家でできることを講義時間帯にはしない，という方針ですすめた
第14回. 7/23 （火）
宛先：date@cs.miyazaki-u.....
添付する pdf ファイルのファイル名：7770770date.pdf （学籍番号＋名前）
件名：最適化理論レポート提出
本文（例）：
〇〇です．レポートを提出します．
（気の利いた一言を書く）
よろしくお願いいたします．
プログラミング
LaTeX （Overleaf）でレポートを書く．図，ソースコードの貼り付け方．
素朴な方法：信号の復元 （こういう方法と復元精度のよさを比較してみる）
各 $ y_i の値が 0.5 より大きいか小さいかで，$ x_i = 0,1 を推定
各 $ x_i の値を推定するために$ y_{i-2},y_{i-1},y_{i},y_{i+1},y_{i+2} の値だけをみて決める．
if $ (y_{i-2},y_{i-1},y_{i},y_{i+1},y_{i+2})/5 > 0.5 then $ x_i = 1
Greedy 法．
Gibbs サンプラー
0. $ x_0,\cdots,x_{200}に初期値、でたらめな 0, 1 を代入しておく。
1. ある $ i, i=0,\cdots,199 をランダムに選ぶ。
2. $ x_i の値を、$ x_{i-1}, x_{i+1}, y_iだけをみて、確率的に 0,1 に値を決め、更新する。
3. 1.と2.を繰り返す。
もう少し高度な話題
https://gyazo.com/f1b55c37f38997c1cc40d4898d26a152https://gyazo.com/853e7a662fd62a629b3bfa105cfe3407
https://gyazo.com/3d29ebf0f628eacad1ead47395d3a3bbhttps://gyazo.com/493ee2d5c048f79c02bc96d22fab4848
https://gyazo.com/8c3b0b9dc592f3f57ab58c4f654a8d2dhttps://gyazo.com/50254f127fb39a26032d442bd4804661https://gyazo.com/b8737f6ced8c08b5ddd83429a82d8b40
第13回. 7/16 （火）
アルバイト（宮崎県庁・デンサン）
2019.8末
第12回. 7/9 （火） 動的計画法．コンピュータプログラムの作り方
データ構造
https://gyazo.com/23dbb8535ce9601a299b6dde800fd7e1
https://gyazo.com/3a253832e4b875a8548bc3395a5a5be8
https://gyazo.com/0c45f2c221669ca519f48805d108d463
脱線
https://www.oreilly.co.jp/books/images/picture_large978-4-87311-836-9.jpeg
第11回. 7/2 （火） 動的計画法．コンピュータプログラムの作り方
復習
確率的生成モデル
見えるもの（データ）、見えないもの
データは、「種」から生成されている。
生成する能力を持っているマシンは、認識能力も高い（？）
異なるパラメータをもつマシン間のコミュニケーション
動的計画法
そのまま開設すると発見する喜びを奪ってしまうので、5分は、考える時間を与える
黒板で説明。
注意事項（この場で、なにがなんでも理解する）
口頭試問 締切 7/23火
「なんとなくわかった」は、この課題の場合、ありえません。
簡潔に説明するトレーニング
レポート課題 締切 7/29月 18:00 厳守
第10回. 6/25 （火） ベイズ計算の基礎（2）：同時分布，事後確率最大化
先週の復習（問題設定．正規分布，分散，共分散）
確率的生成モデル
隠れマルコフモデル
同時分布，周辺分布，条件付き確率，ベイズの公式
プリント
レポート課題
第9回. 6/18 （火） 統計的最適化．基本課題の説明．
これから7回分の概要．
基本課題を説明．
復習：問題を解決するために必要な知識
同時確率
条件付き確率
ベイズの公式
正規分布
疑似乱数
線形合同法．擬似乱数列の生成式
$ X_{n+1} = (AX_n ＋B) \mod M
$ A=3, B=5, M=13 で試してみる． $ X_0 を乱数の種 とよぶ．
$ X_{n+1} = ( 48271 X_n ) \mod (2^{32} -1 )
Park and Miller, "Random Number Generators: Good Ones are Hard to Find"
第12回. 7/9 （火） 口頭試問・コード作成 （できるだけ，このあたりまでで，口頭試問完了）
第13回. 7/16 （火）．口頭試問・コード作成
第14回. 7/23 （火） 自由課題について．少し高度な話題：事後確率の具体的な計算
--------- 7/29 （月） 18:00 レポート提出締切（厳守．ともかく提出）
第15回. 7/30 （火） まとめ （発表会？ 履修登録者数に依存）
成績の評価基準
口頭試問（50%）とレポート(50%)
確率的生成モデル
世の中はこうなっているという考えのもとで，観測データを解釈する
脳が一例
別件
工学部特別講演
日程：2019年7月12日（金）14:50〜16:20 B-101
講師：長岡浩司先生
『数理科学・数理工学とは： 量子情報理論の発展史を例に』
情報工学特別講義（再帰的なプログラミング）
日程：2019年8月19日（月）～連続4日間。（シラバス） 8/19（月）始まり。第一回目は10:30開始予定。A-116
第2日目からは、9:30はじまり。毎日 17:00までには終了する予定。
講師：山本和彦先生（IIJイノベーションインスティテュート） 概要：プログラミングで使うデータのいくつかは、構造が再帰的に定義されています。この再帰データを扱うためには、再帰的なプログラミングが必須となります。この講義では、再帰的なデータ構造と再帰的なプログラミングについて学びます。ループでは解けない(解きにくい)問題でも、再帰的なプログラミングでは簡単に解けることを説明します。再帰の習得を通じてプログラミング技術の向上を目指します。
https://gyazo.com/6459eff1e737e0b5ef45d279cf3aebb8https://gyazo.com/dc6358dc726f68db0c1e2a4e974671ba
https://gyazo.com/4d238b3be2cf74528d000eb299333cd3
週間ダイヤモンド 2019年2月23日号
式の意味が重要
関連付ける
手を動かす．書く．計算する
◯◯◯◯ 学の不思議さに感動することは人生の幸せの一つに違いないが、その幸せは、 山道を一歩一歩登っていくように、数学的·概念的な理解を地道に積み重ねながら、 頭脳が汗をかき、心地よく疲労することでしか味わうことはできない。 （長岡浩司先生）