V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Distributions
Ubuntu
Fedora
CentOS
中文资源站
网易开源镜像站
usb7
V2EX  ›  Linux

现在市面上有使用 ARM NPU 的板子吗?支持 Linux 吗?

  •  1
     
  •   usb7 · 2023-12-15 10:17:58 +08:00 · 2445 次点击
    这是一个创建于 378 天前的主题,其中的信息可能已经有所发展或是发生改变。
    22 条回复    2023-12-16 14:21:13 +08:00
    mingl0280
        1
    mingl0280  
       2023-12-15 10:26:31 +08:00 via Android
    瑞芯微好像有,Linux 没试过
    zhengjing
        2
    zhengjing  
       2023-12-15 10:33:05 +08:00
    很多了,便宜的全志和 RV 都有,贴一个全志的: https://v853.docs.aw-ol.com/
    sunmacarenas
        3
    sunmacarenas  
       2023-12-15 10:35:57 +08:00
    可以看看 Nvidia Jetson orin agx ;不过是 GPU
    ryan4yin
        4
    ryan4yin  
       2023-12-15 10:36:06 +08:00
    rk3588 之类的板子,官方 sdk 基本都只支持 Linux 啊,rknn / rknpu 之类的
    XIVN1987
        5
    XIVN1987  
       2023-12-15 10:36:30 +08:00
    RK3588 ,,6T 算力。。
    timeance
        6
    timeance  
       2023-12-15 10:40:04 +08:00
    Jetson Orin 系列,20T~275T 算力
    ormand1bd
        7
    ormand1bd  
       2023-12-15 11:02:54 +08:00
    有,支持
    tangtang369
        8
    tangtang369  
       2023-12-15 11:06:50 +08:00
    都支持 linux 的 现在 arm 板都是安卓或者 linux
    usb7
        9
    usb7  
    OP
       2023-12-15 11:46:27 +08:00
    @XIVN1987 请问 RK3588 用的哪家公司设计的 NPU ?它的文件里没说,只是说: 6TOPs@int8
    https://www.rock-chips.com/uploads/pdf/2022.8.26/192/RK3588%20Brief%20Datasheet.pdf

    请问在 RK3588 上运行什么版本的 Linux ?你有在 RK3588 的板子上,实际运行过 TensorFlow 吗?
    tangtang369
        10
    tangtang369  
       2023-12-15 11:55:23 +08:00
    @usb7 3588 官方板是 debian 第三方版是 ubuntu ,npu 大多数都不支持直接运行 TensorFlow 等框架 ,是要利用他们自己的转换工具,把 tensorflow/pytorch/onnx 转成 npu 专用的模型格式,3588 的其实就是三个核心的 2T ,这个芯片据称是自研的,但是在这之前几代的 npu 用的是芯原的
    XIVN1987
        11
    XIVN1987  
       2023-12-15 11:57:38 +08:00
    @usb7

    你管他用的哪家的 IP ,,不都是直接调用厂家提供的库甚至是 pytorch 、tensorflow 库直接使用的吗,,难道你还能自己从寄存器开始写起??
    usb7
        12
    usb7  
    OP
       2023-12-15 11:57:41 +08:00
    @tangtang369 请问可以付费语音咨询吗?如有意愿,请发邮件: [email protected]
    usb7
        13
    usb7  
    OP
       2023-12-15 11:59:28 +08:00
    @XIVN1987
    => 你管他用的哪家的 IP ,,不都是直接调用厂家提供的库甚至是 pytorch 、tensorflow 库直接使用的吗,,难道你还能自己从寄存器开始写起??

    因为精力有限,我想仅仅拥抱一个 NPU IP 。
    Dogtler
        14
    Dogtler  
       2023-12-15 12:38:31 +08:00   ❤️ 1
    香橙派 RK3588
    suke119
        15
    suke119  
       2023-12-15 13:26:56 +08:00
    rk356X 瑞芯微的 还有 3588 系列 rv 系列 系统 ubuntu arm64 ,这几天刚将 PPOCR3-4 部署到上面
    vicalloy
        16
    vicalloy  
       2023-12-15 14:09:18 +08:00
    看你具体想做什么。一般来说 NPU 都是没法直接用的,需要你去适配对应的 SDK 。
    RK3588 的 NPU 是瑞芯微自研的,除了官方给的几个 DEMO 估计没有什么人可以真正用起来。
    如果你只是单纯的需要一个 ARM 的 Linux 开发板 RK3588 性能还是不错的。
    avalon8
        17
    avalon8  
       2023-12-15 14:20:37 +08:00
    晶晨 a311D
    xuxuxu123
        18
    xuxuxu123  
       2023-12-15 14:42:13 +08:00   ❤️ 1
    ltkun
        19
    ltkun  
       2023-12-15 15:08:36 +08:00
    @xuxuxu123 这个不错
    402124773
        20
    402124773  
       2023-12-15 15:19:55 +08:00
    intel stick 2 插在树莓派上面用如何?外挂 npu
    需要 stick 2 联系我
    enihcam
        21
    enihcam  
       2023-12-16 13:07:13 +08:00
    @xuxuxu123 华为硬件太闭环了,没有生态。龙芯中科的 LoongArch64 都比它开放。
    usb7
        22
    usb7  
    OP
       2023-12-16 14:21:13 +08:00
    @enihcam
    => 华为硬件太闭环了,没有生态。龙芯中科的 LoongArch64 都比它开放。

    赞你的这句。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1164 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 19ms · UTC 18:28 · PVG 02:28 · LAX 10:28 · JFK 13:28
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.