ラズパイ4の新GPUをハックしてディープラーニング推論を高速化、一体なぜ開発できた？
世界広しといえども、ラズパイのGPUでDNN推論を現実的に実行できるようにした企業は、このIdeinだけである注1）。ラズパイのGPUは、家庭用ゲーム機の初代XboxのGPUを上回るほどの性能がある。ラズパイでDNN推論というと、専用アクセラレータをUSBドングルでラズパイに外付けするアプローチが多いが、Ideinのソフトを使えば、そうした外付け部品なしに、標準構成のままDNNを高速化できる。GPU側で画像認識などのDNN推論を実施できれば、メインCPUは他のタスクに丸々使えるため、非常に有用である。 そんなIdeinが、また驚くべき成果を出した。
ラズパイは2019年に処理性能などを向上した第4世代品「Raspberry Pi 4（以下、Pi4）」が発表されたが、その新GPUでもDNN推論アクセラレーションができるようにしたのだ