现在市面上有使用 ARM NPU 的板子吗？支持 Linux 吗？

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

Distributions

› Ubuntu

› Fedora

› CentOS

中文资源站

› 网易开源镜像站

这是一个创建于 376 天前的主题，其中的信息可能已经有所发展或是发生改变。

npu

板子

Linux

ARM

22 条回复 • 2023-12-16 14:21:13 +08:00

mingl0280

2023-12-15 10:26:31 +08:00 via Android

瑞芯微好像有，Linux 没试过

zhengjing

2023-12-15 10:33:05 +08:00

很多了，便宜的全志和 RV 都有，贴一个全志的： https://v853.docs.aw-ol.com/

sunmacarenas

2023-12-15 10:35:57 +08:00

可以看看 Nvidia Jetson orin agx ；不过是 GPU

ryan4yin

2023-12-15 10:36:06 +08:00

rk3588 之类的板子，官方 sdk 基本都只支持 Linux 啊，rknn / rknpu 之类的

XIVN1987

2023-12-15 10:36:30 +08:00

RK3588 ，，6T 算力。。

timeance

2023-12-15 10:40:04 +08:00

Jetson Orin 系列，20T~275T 算力

ormand1bd

2023-12-15 11:02:54 +08:00

有，支持

tangtang369

2023-12-15 11:06:50 +08:00

都支持 linux 的现在 arm 板都是安卓或者 linux

usb7

2023-12-15 11:46:27 +08:00

@XIVN1987 请问 RK3588 用的哪家公司设计的 NPU ？它的文件里没说，只是说： 6TOPs@int8
https://www.rock-chips.com/uploads/pdf/2022.8.26/192/RK3588%20Brief%20Datasheet.pdf

请问在 RK3588 上运行什么版本的 Linux ？你有在 RK3588 的板子上，实际运行过 TensorFlow 吗？

tangtang369

2023-12-15 11:55:23 +08:00

@usb7 3588 官方板是 debian 第三方版是 ubuntu ，npu 大多数都不支持直接运行 TensorFlow 等框架，是要利用他们自己的转换工具，把 tensorflow/pytorch/onnx 转成 npu 专用的模型格式，3588 的其实就是三个核心的 2T ，这个芯片据称是自研的，但是在这之前几代的 npu 用的是芯原的

XIVN1987

2023-12-15 11:57:38 +08:00

@usb7

你管他用的哪家的 IP ，，不都是直接调用厂家提供的库甚至是 pytorch 、tensorflow 库直接使用的吗，，难道你还能自己从寄存器开始写起？？

usb7

2023-12-15 11:57:41 +08:00

@tangtang369 请问可以付费语音咨询吗？如有意愿，请发邮件： [email protected]

usb7

2023-12-15 11:59:28 +08:00

@XIVN1987
=> 你管他用的哪家的 IP ，，不都是直接调用厂家提供的库甚至是 pytorch 、tensorflow 库直接使用的吗，，难道你还能自己从寄存器开始写起？？

因为精力有限，我想仅仅拥抱一个 NPU IP 。