数理脳科学（2024）
YRM71 数理脳科学（2024） 前期金曜 第5・6限
情報機械としての脳の本質を探す
第15回. 7/26（金）
第14回. 7/19（金）特別講演：樺島祥介 先生 13:30〜 B-102「大自由度システムの統計学としての統計力学」 https://gyazo.com/8a79a5ea482564d896666c7a926ccc1b
樺島先生の動画，youtube にいくつかあるので，ちょっと見ておけば，当日が楽しくなると思います．
2024-07-12金 第13回
確率的生成モデルを用いたパターン認識
プログラムの部品
2024-07-05金 第12回
確率的生成モデルを用いたパターン認識
2024-06-28金 第11回
2024-06-21金 第10回
自己組織化マップ（教師なし学習、確率分布の学習）
2024-06-14金 第9回
自己組織化マップ（教師なし学習、確率分布の学習）
2024-06-07金 第8回
レポート講評
https://gyazo.com/716c84e93696359f4fbb109c9f1c9504
2024-05-31金
連想記憶モデル レポート締切（だとおもっておく）
2024-05-24金
連想記憶モデル
多重・分散型記憶
並列・分散情報処理
2024-05-17金
例からの学習
レポート講評
できた回路の考察。どんな回路になっているか。
そもそも、学習が進んでいるか。
自動微分
2024-05-10金
バックプロパゲーション：
XOR
対称性判別
https://gyazo.com/c1e8300035d0d8c6a8a70cac639ba4a9https://gyazo.com/526f117635513962b811e6dcbb9b9c59
https://gyazo.com/8610f93cfb118825bd48501e299ba88f
https://gyazo.com/6881127860577a5057f9c2e563823d47https://gyazo.com/6b732ac946e47d1abb39d6882ed22409
Reconciling modern machine-learning practice and the classical bias–variance trade-off
Mikhail Belkin, PNAS vol. 116 (32) 15849-15854, 2019
Deep double descent: where bigger models and more data hurt
Nakkiran et al J. Stat. Mech. (2021) 124003
reconcileとは
〔対立する考え・状態などを〕調和させる、調整する、〔言行・帳尻などを〕一致させる
パーセプトロン
2024-04-26金
課題1 提出締め切り 5/17金 12:00
https://gyazo.com/c486b35ae4480f6885d7eaef685a8f10
https://gyazo.com/eab0fb61f475c2850cee6c442359ee04
https://gyazo.com/48fea2f727cafbaf0b65d67576197992
https://gyazo.com/c8d57995b4569ef198de7de87430b3b8https://gyazo.com/511dd1c23dd50d73b5d22d326de36604https://gyazo.com/708a747e8a40f925f822d516ac912fa9
2024-04-19 金
ニューロンのモデル
誤差逆伝搬
シラバスを使って説明
過去の講義から・これまでの様子（レポート課題など）
神経情報処理とニューロコンピューティング
脳の情報処理様式を探る （脳の情報処理を支配している基本的な諸原理）
脳の秘密はまだ解き明かされてはいない
ニューロンのような素子を多数結合した系のダイナミクスの中でどのような学習や並列情報処理が実現できるのか，その可能性を数理的に探究する（甘利俊一）
→ 現実の脳の仕組み
→ 工学におけるニューロコンピュータの設計（脳にヒントを得た新しい情報処理システムの構築）
いくつかの基本的な回路網をとりあげ，その解析のための数理的な方法を示す
ニューロコンピューティング
脳と同じ情報原理にもとづく広い意味での計算方式，情報処理方式
工学的に実現 → ニューロコンピュータ
単なる脳の模倣ではない
同じ基本原理を脳とは違ったやりかたで工学的に実現するもの
========
最近のことを勉強したい場合。脳との関係性は、ともかく。
図解 深層学習
数理で理解する基本原理
著者 小池 敦
https://m.media-amazon.com/images/I/61n32WdtjPL._SL1500_.jpg
大規模言語モデル入門（2023-07）
https://gihyo.jp/assets/images/cover/2023/thumb/TH160_9784297136338.jpg
山田育矢 監修／著，鈴木正敏，山田康輔，李凌寒 著
B5変形判／336ページ
定価3,520円（本体3,200円＋税10%）
ISBN 978-4-297-13633-8
Vision Transformer入門（2022-09）
https://gihyo.jp/assets/images/cover/2022/thumb/TH160_9784297130589.jpg
片岡裕雄 監修，山本晋太郎，徳永匡臣，箕浦大晃，邱玥（QIU YUE），品川政太朗 著
B5変形判／272ページ
定価3,520円（本体3,200円＋税10%）
ISBN 978-4-297-13058-9
ゼロから作る Deep Learning 5 （2024-04）
https://www.oreilly.co.jp/books/images/picture_large978-4-8144-0059-1.jpeg
ゼロから作る Deep Learning 2 （2018-07）
なにもみないで作れるようにする
https://www.oreilly.co.jp/books/images/picture_large978-4-87311-836-9.jpeg