Mathematical Neuroscience 2026

YS591

射影、projection

長さ1のベクトルとの内積、inner product with a unit vector

Hebb 型学習・相関学習、Hebbian learning、correlation learning

第8回

Associative Memory

第7回

Associative Memory

https://gyazo.com/f50007cac54e02fadffbad61ca59422f

https://gyazo.com/2526d567b2288c3dc54a1d9b02770305

programming memo: this is for undergraduate course

第6回

Memorize the experimental procedure thoroughly before conducting the experiment.

問題設定・実験手順は、実験をする前に、頭の中にたたき入れる

https://gyazo.com/f56447f4f5c6c2cbf7eecd07479d5233

Here, the simplest code:

backprop_numpy_forloop_init_scale_batch_pytorch_colab_v2_2026-05-26_menuro001e.ipynb

sinusoid_bias_variance_pytorch_colab_double_descent_2026-05-26_mneuro001j.ipynb

問題設定

https://gyazo.com/a397b39fd63a54fa317f548d0c58f4ea

https://gyazo.com/13b93f2e8e707e7d208d4d5ff584aa03

https://gyazo.com/04fb69345b7283aed25f0a98728861e7

During the lectures, feel free to make full use of AI tools like ChatGPT and Codex. You may also use PyTorch and similar tools.

講義中、ChatGPT とか、Codex とか、AI をガンガン使う。PyTorch など、も使ってよい。

Neural Networks and the BiadVariance Dilemma

Geman et al. 1992

https://gyazo.com/2cbe17beea129dde7cf28fef4f63b53f

Reconciling modern machine-learning practice and the classical bias–variance trade-off

Belkin et al. 2019

https://gyazo.com/7b777094858bd3853f3d7f044f7abff4

High-dimensional dynamics of generalization error in neural networks

Advani et al. 2020

https://gyazo.com/3fdd6b22249e168e0d699f90fcc3d2bd

Continual task learning in natural and artificial agents

Flesch et al. 2023

Project 1 : due 5/19 Tuesday

Do not use deep leraning frameworks like PyTorch. Just use numpy and matplotlib.

When you write code from scratch, you gain a much better understanding of how it works.

If you use ChatGPT or similar tools, you can get it done in under a minute, but that won’t help you improve your skills at all.

Even with a simple problem like the XOR problem, you’ll see that training a circuit to produce the correct answer isn’t all that easy.

XOR 問題という小さな問題でも、学習により正解を出す回路の学習は、それほど簡単ではない、ということを体験する。

本日の目的：計算結果を考察する

Today's objective: analyze the calculation results

Project 1：締切 5/19

Project 1 の課題は、numpy と matplotlib だけを使い、python コードを書いてください。

コードをゼロから書くと、動く仕組みが、よくわかります。

ChatGPT などを使うと、1分以内にできてしまいますが、それだと、まったく力が付きません。

PyTorch など使うのは自由ですが（これもChatGPT などを使うと、1分以内にできえる）、その仕組を理解してからにしてください。

要点：

https://gyazo.com/689e551b1c6b46a7eb375a3cd7662f62

https://gyazo.com/c25c2e4d9fdc3efb357555fc8570e18b

https://gyazo.com/01b57156bf9313ec0ad64f7f65fbb388

https://gyazo.com/0e81177dd642acd60513ed52d6c58fa9

この黒板の大きさ：約 1200 mm x 4500 mm

https://gyazo.com/d78f4b88931af5e062f6dd78440f46f7

https://gyazo.com/c4f85a3a9fb34f2fb40751c88dd925a7

2026-04-15

https://gyazo.com/c8c81f6d85392ae0713602607ddddd46

Overview of the Lecture

シラバスを使って説明

過去の講義から・これまでの様子（レポート課題など）を紹介

Explanation using the syllabus

Overview of past lectures and previous activities (such as report assignments)

成績評価について

いままではレポート課題で成績を評価していました。

しかし、去年（2025年）の年末から、ChatGPT などの生成AIの性能が革命的に進歩し、レポート課題をそのまま入力すると、生成AIがレポートをこなしてくれるようになりました。ですので、提出されたレポートだけを見て成績を評価することが、かなり難しくなりました。

不思議なことに、少し会話すると、その人が、どこまで理解しているかどうかわかるのも事実です。ですので、レポートには、レポート課題を通して、うかんだ疑問を書いてください。実際に課題にとりくんだ場合、ぼんやりとした質問にはならないはずです。生成AIにその疑問をぶつけてみてください。また疑問がでてくると思うので、それを繰り返してください。

生成AIの回答は長いので、自分の疑問（問い）のリストを、レポートの最後に付けてください。それをもとに、レポート提出後、短い口頭試問を実施し、成績を評価します。わからないことがあるのはあたりまえでそれを楽しめばいいです。今期は、質問の内容で成績を評価します。

On Grade Evaluation

Until now, I have been evaluating grades based on report assignments.

However, since the end of last year (2025), the capabilities of generative AI tools like ChatGPT have advanced dramatically, and now, if you simply input a report assignment, the AI can generate the report for you. As a result, it has become quite difficult to evaluate grades based solely on the submitted reports.

Interestingly, it’s also true that just by having a brief conversation, I can tell how well a student understands the material. Therefore, in your report, please write down any questions that came to mind while working on the assignment. If you actually engaged with the task, your questions shouldn’t be vague. Try posing those questions to the generative AI. I expect more questions will arise, so please repeat this process.

Since the responses from the generative AI are quite long, please include a list of your questions at the end of your report. Based on this list, we will conduct a brief oral exam after you submit your report to evaluate your grade. It’s perfectly normal to have questions, so just enjoy the process. This semester, your grade will be based on the content of your questions.

とは言っても、生成AIは、とても便利です。

じゃんじゃん使いましょう。

ふつうの大学生・大学院生向けに書かれた専門書に書かれている、

理解できないことで、具体的なことであれば、

いま（2026年4月）の生成AIは、ほとんどの教員よりも、

いくらでも易しく教えてくれます。

講義中に、私の使い方も見せていきます。

Generative AI is incredibly useful.

Let’s use it as much as we can.

When it comes to specific concepts in specialized textbooks written for undergraduate and graduate students

that you don’t understand,

as of now (April 2026), generative AI can explain them far more clearly

than most professors.

I’ll also demonstrate how I use it during the lectures.

It is required that you can explain problem settings, procedures of the computer experiment, and the experiment results without seeing almost anything.

問題設定，計算機実験の手順，計算機実験の結果を，自分の書いたレポートを片手に，ほぼ何もみないで説明できるレベルに到達できていること．

Even with a simple task, when you write the code from scratch and perform experiments, many questions must arise. Please report them.

単純な課題でも，自分でゼロからコードを書いて実験してみると，いくつもの疑問が湧いて出てきます．それをレポートに書いてください．

https://gyazo.com/ddbc7f3169b5d9cebd525f661cdb7e99

神経情報処理とニューロコンピューティング

脳の情報処理様式を探る　（脳の情報処理を支配している基本的な諸原理）

脳の秘密はまだ解き明かされてはいない

ニューロンのような素子を多数結合した系のダイナミクスの中でどのような学習や並列情報処理が実現できるのか、その可能性を数理的に探究する

→　現実の脳の仕組み

→　工学におけるニューロコンピュータの設計（脳にヒントを得た新しい情報処理システムの構築）

Neural Information Processing and Neurocomputing

Exploring the Brain’s Information Processing Mechanisms (The Fundamental Principles Governing Brain Information Processing)

The secrets of the brain have not yet been fully unraveled.

We mathematically explore the potential for learning and parallel information processing that can be realized within the dynamics of systems composed of numerous neuron-like elements.

→ The Mechanisms of the Real Brain

→ Design of Neurocomputers in Engineering (Construction of New Information Processing Systems Inspired by the Brain)

いくつかの基本的な回路網をとりあげ、その解析のための数理的な方法を示す

We will examine several basic neural networks and present mathematical methods for their analysis

ニューロコンピューティングとは

脳と同じ情報原理にもとづく広い意味での計算方式、情報処理方式

工学的に実現　→ ニューロコンピュータ

単なる脳の模倣ではない

同じ基本原理を脳とは違ったやりかたで工学的に実現するもの

What is Neurocomputing?

A broad category of computational and information processing methods based on the same information principles as the brain

Engineered implementation → Neurocomputers

Not merely an imitation of the brain

Engineered implementations that realize the same fundamental principles in ways different from the brain