組み込みAIボード
以下の製品を見て、競合とか性能とか価格帯が気になったinajob.icon
@M5Stack: This Tomorrow! #m5new
https://pbs.twimg.com/media/GbNP3ssakAATwDX.jpg
AX630C
3.2TOPs@INT8
このTOPsってのはどういう性能なのだろう？inajob.icon
Token per Seconds?
この値で製品を比較できるもの？
4GB LPDDR4 memory (1GB available for user applications, 3GB dedicated to hardware acceleration) and 32GB eMMC storage,
Future support includes Qwen2.5-1.5B, Llama3.2-1B, and InternVL2-1B models
中身はLinuxなのかな？inajob.icon
NPUというのが搭載されたLinuxボード？
@hirotakaster: M5stack LLM module
日本語つかえるサンプルを動かしてみるなど
https://pbs.twimg.com/ext_tw_video_thumb/1851975938206281728/pu/img/YgHLLOH3hBjjn8P3.jpg
日本語のモデルも行けるらしい
どうすればよいのか気になる。どこかにサンプルがある？inajob.icon
@hirotakaster: LLM module を直接触る人はこの環境を整備しておくと幸せになれると思われ
https://t.co/Hh9Z72F5ej
AXera Pulsar2 Toolchain Instructions Manual — Pulsar2 V2.3 documentation
LuckFox Pico Mini Linux RV1103
https://vi.aliexpress.com/item/1005006175964407.html
Cortex A7@1.2GHz + RISC-V
NPU : 0.5TOPS，Support int4、int8、int16
MAIX-III AXera-Pi
https://wiki.sipeed.com/hardware/en/maixIII/ax-pi/axpi.html
14.4Tops@int4，3.6Tops@int8