型安全でクロスプラットフォームな次世代MLライブラリの開発
クリエータ:道本 将弘(埼玉大学 工学部 電気電子物理工学科)
PM:曾川 景介(newmo株式会社 CTO)
プロジェクト概要:https://www.ipa.go.jp/jinzai/mitou/it/2024/gaiyou-sg-1.html
/icons/hr.icon
出来立てほやほやのRusty Lantern公式 X: https://x.com/RusyLantern
(tが抜けているのはあとで修正しますmasahiro doumoto.icon)
前代未聞の盛り上がりochyai.icon
GPU買えないsowawa.icon
GPUがなければスパコンを食べればいいじゃないochyai.icon wsowawa.icon
二位じゃダメなんですか
ABCIさん助けてochyai.icon
型大事sowawa.icon
さっき、Pythonはクソって言いかけてかなり危なかったsowawa.icon
Pythonという不浄な言語がありましてochyai.icon
AIエージェントがクソみたいなpythonを書くのでもう魔窟ですochyai.icon
人間がPythonを読んでた時代があるなんてochyai.icon w sowawa.icon
プロがミング言語そのものがそうなっていくんだろうねsowawa.icon
C++の黒魔術を自慢してた僕らは旧世代のオワコンochyai.icon
今日このあとすごいC++の話もしようかと思ったんだけどなsowawa.icon
C++は素晴らしい言語ですochyai.icon 
「人間が機械語を読んでた時代があったなんて」からの「コンパイラがやってくれる」の流れを考えると、今後Rustも書かなくなりそうだがwnishio.icon
それsowawa.icon
もう蛇語を書いてたのかスパゲッティを茹でてたのかわからないochyai.icon
近頃は環境のコンフリクトを永遠にエージェントがループする地獄がありますがochyai.icon
バージョン合わせという果てしない旅ochyai.icon それなsowawa.icon
人生はバージョン合わせだけで終わってしまうochyai.icon
最近動かしたものもcudaのバージョン違いで動かなかった。。。sowawa.icon
CUDAとmpsのクソみたいな乗り入れ地獄でmacをなん度叩き割ろうと思ったことかochyai.icon
venvって何回打ったのかochyai.icon w sowawa.icon
「お前は今まで食べたパンの数・・・・」ochyai.icon
そこでいい感じ変換 python -m venv venv source venv/bin/activateochyai.icon
いい感じ変換でそれ出てきたらウケるんだけどwsowawa.icon
でそうwochyai.icon
wwwwnishio.icon
このプレゼンを聞いているとpythonで使ってきた非生産的な時間の怨念が魂の底からやってきてしまうochyai.icon
頷きすぎて首がもげる可能性があるochyai.icon
RuntimeError: size mismatch for.... ochyai.icon
つらい。。。sowawa.icon
「わかります」
字が小さくてわからないよwnishio.icon
ごめんなさいsowawa.icon
特定のGPUに課金。。。sowawa.icon
ていうか下層レイヤの差異を吸収するレイヤーを作るの、下層レイヤが変わっていくと無限地獄な気がするなぁnishio.icon
それなsowawa.icon
まあそこにwebGPU使うのは面白いとは思っている
昔々、ぼくらが採択されたころはピクセルシェーダーで計算するみたいなのがあった。cuda前の時代sowawa.icon
webGPUは正しいochyai.icon
なんというかまだマシなんだwebGPUの方がochyai.icon
その話聞き落したな...nishio.icon
もしかしたら勝手に話してしまったかもしれないsowawa.icon-1akfujii.icon
これはよくないネタバレsowawa.icon
具体的な中身の話はまだかな〜と思ってたwnishio.icon
まずAIが作るようにしよう()nishio.icon
「コンパイラが納得するまでコード編集」おっ、AIがやってくれるの?
はよsowawa.icon
よしRustyLanternをwindsurfしよう
githubどこochyai.icon
公開するっていってたようなsowawa.icon
あとで聞いてみようsowawa.icon
今すぐ使いたいochyai.icon
なるほど〜〜 WebGPUをつかうのか〜〜!nishio.iconhttps://scrapbox.io/files/67b19d690c75948bd877969d.png
このタイミングakfujii.icon
ごめんってsowawa.icon
タイトルに入ってなかった?ochyai.icon
左にあったochyai.icon
よかったsowawa.icon
ウケるnishio.icon
聞き落したとしか言ってないのにw
これ面白いochyai.icon
画像チェックochyai.icon
行列の中身を可視化すると一発でわかるねsowawa.icon数字ではなくて
リアルタイム性があると尚良いochyai.icon
おおーきたーsowawa.iconnishio.icon
(今何がどこまで実装できてて、どう言うものが動くって話した?)nishio.icon
まとめに出てきた
公開はこれからなのか。
とりあえず現状では見れるものは何もないのか、リリースされてから試してみようnishio.icon
Q: どれくらい遅くなるのか?
A: CUDAの行列積はTensor Coreを使っているがそれがないので(以下略)
PMからの補足
「カリカリにチューニングしたい場合だけではなく〜」
まあ実行速度がボトルネックか人間の実装時間がボトルネックかというのは状況によるってのは指摘の通りだなと思ったnishio.icon
内部レイヤーを可視化するのは色々な使い道がありますよね.エラーを発見する目的なら,何か(特定の周期を持っているなど)指標を定義することもできそうでは?中澤正樹.icon
連携が取れてないwsowawa.icon
こんないいグラフがあるならもっと早く見せてほしかったwnishio.icon+1akfujii.icon
wwwwsowawa.icon
「CUDAを使わない時に次がCPUなのはおかしくて、WebGPUでもまあまあ速いし、環境構築コスト激減するから実用上のメリットでかいんじゃない?」ということね、納得したnishio.icon
CUDAの置き換えになるような未来を期待しています!kunihirotanaka.icon