KAN社会
from
日記2024-07-11
KAN社会
ochyai
なめらかな社会
といわれると
微分可能社会
とか思うが，どうやら違うらしい．
nishio
"
なめらかな社会とその敵
"が出版された2013年の段階ではまだ
微分可能
な部品を組み合わせて
end-to-end
で最適化する技術が実用可能になってなかったからな。なめ敵の"
ステップ関数
ではなく
シグモイド
にすべき"的な発想は微分可能な社会の礎になるだろう
ochyai
シグモイドにとらわれないと，
環世界
ならぬKAN社会だったりw
nishio
"KAN社会"ってなんです？
ochyai
シグモイドとかけまして，KAN:
Kolmogorov-Arnold Networks
社会っていうギャグです．
https://arxiv.org/abs/2404.19756
nishio
ああ、なるほど。まあ
ステップ関数
でない
滑らかな関数
の例として
シグモイド
に言及されてるだけなので
KAN
みたいにその他の滑らかな関数を使うことは否定しないと思います。(ダジャレにマジレス)