AIの強さは三変数(データセット数・パラメータ数・予算)に収束する
public.icon
= スケール則(Scaling Law)
人工知能
/tkgshn-private/AIの強さは3変数(データセット数、パラメータ数、予算)に収束する
これと同じことをユーグレナの社長に聞いたことを思い出したggkkiwat.icon
OpenAIが発見したScaling Lawの秘密 - ディープラーニングブログ
OpenAIが発見したTransformerのスケーリング法則だと、結局予算のあるものが勝つ
AIは中央集権化しようとする
既存のベンチマーク、SOTA技術、評価方法は無意味·3つの変数はパラメータ数N、データセットサイズD、計算予算C
Nは誰でも増やせ、DとCはgoogleがトップ。我々が出来ることは今のうちにgoogle株を買っておくしかないんだよ。 https://t.co/kdvUiL4hfF
@tosshin321 January 5, 2021
データ数やら金やら研究者の数がものをいうggkkiwat.icon
人工知能のゲームは、「死ぬほどデータソースがある」「死ぬほどお金がある」「死ぬほど電力がある」「死ぬほど人材がいる」の合算ゲームで、さらに抽象化すると「お金」と「人口」を持ってるプレイヤーが強い…というゲームにITを単純化する感。つまり米中と未来のインド、メガプラットフォーマーが強いゲー
@fladdict Apr 27, 2021
つまり資本主義のゲームになる( 'ω' )
/tkgshn/「ポスト資本主義社会」は機械学習によって崩壊するか
版元であることの強さ
https://gyazo.com/6edb74aa1767300c0e3ba82c3900f723https://gyazo.com/f20774a522db829e3638b8cf1f71b842
JSAI2023 Tutorial 「基盤モデルの技術と展望」 - Speaker Deck