深層学習
public.icon
①普遍近似定理：層が二つあるニューラルネットワークは、一層あたりのパラメーターの数が十分多ければ、どんな連続な関数でも(無視できる誤差の範囲で)表現できる ③近似誤差レート：表現したい関数が滑らかであるとき、層が二つあるニューラルネットワークの近似誤差レートはどんな方法を持ってしても、改善することはできない
④滑らかでない関数：表現したい関数がジャンプを持つ関数であるとする。このとき、層の数が4層以上あるニューラルネットワークの近似誤差レートは理論上の最適値を達成し、層の数が少ないニューラルネットワークや深層学習以前の従来法はそのレートを達成できない。
⑥非均一的な滑らかさを持つ関数に対する近似誤差レート：表現したい関数が非均一的な滑らかさを持つ関数であるとする。このとき、層の数が4層以上あるニューラルネットワークの近似誤差レートは理論上の最適値を達成し、層の数が少ないニューラルネットワークや深層学習以前の従来法はそのレートを達成できない。
人を巨大な深層学習モデルと考えると、人と人のネットワーク、そしてその中のコミュニケーション様式と評価関数は組織自体を一つのモデルに仕立て、機能を規定する。そのコミュニケーションをソフトウェアで進化させ続けること、そして適切な評価関数を求め続けることが組織力に関わってくる。組織構造とソフトウェアアーキテクチャを一体として捉えプロトコルを定義し、データから事業の数理モデルを生み出して評価関数を作り、新たな試行を通じてそれらを改善し続ける。この時の改善方向性を決めるのが組織文化。さらに組織を一つのモデルと捉えると、それらが織りなす構造は社会の機能性を生み出す。組織間のネットワーク構造やプロトコル、評価関数をソフトウェアで規定・改善するのがレベル4のデジタル化。この階層に至って初めてブロックチェーンは有用なのかもしれない。また行政の重要な役割でもある。あと、人、組織、社会みたいなシンプルな層から成るのではなくて、産業の性質や地理的・地政学的な要因、また文化などによって様々な階層構造が生まれること、また生み出せることにも留意する必要がある。さまざまな試行の中から知識を獲得し自己の構造とその評価関数を改善し続けられる組織が強い組織。なので組織の構造やルール自体に教科書的な答えを求めても意味がなく、また単に真似てもそれはその時の断片でしかない。組織構造を進化させ続けようとする上部構造が重要。インターネット以前は構造の試行とフィードバックのサイクルに定量性を持ち込める余地が少なく、またサイクル自体も長かったため、組織構造のテンプレートを学び硬直的な仕組みを作ることでも十分強くなれた。インターネット以降この前提が変わってしまった。今は情報流通の速度が上がりソフトウェア前提の仕組みの上で素早い試行サイクルが生まれている。するとテンプレート的な硬直的な答え、理解のしやすいシンプルな仕組みを採用するよりも、複雑さや変化をそのまま受け入れ構造を進化させ続けることが必要になった。進化させるメタな仕組みの時代。この時代変化の前に取り残された組織・仕組みを新しい前提で定義し直す、デジタルスクラッチな作り替えがデジタル化において大切な視点。LayerXはこの変化を支えるべく、さまざまな情報を繋げてコミュニケーションやその構造を生み出すソフトウェアや組織作りを提供する会社であると言うこともできる。