V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
qhgongzi
V2EX  ›  分享发现

英伟达发布了一个 exciting 的新玩具:$249 的 AI 小电脑

  •  
  •   qhgongzi · 3 天前 · 5107 次点击

    The Jetson Orin Nano Super delivers up to a 1.7x gain in generative AI performance, supporting popular models for hobbyists, developers and students.

    Jetson Orin Nano Super 看起来能跑 Qwen 7B ,Llama 8B 级别的模型

    视频地址: https://youtu.be/S9L2WGf1KrM

    32 条回复    2024-12-20 11:55:19 +08:00
    JayZXu
        1
    JayZXu  
       3 天前
    Jetson Orin Nano Super Developer Kit Quick Specs

    AI Performance 67 INT8 TOPS
    GPU NVIDIA Ampere architecture with 1024 CUDA cores and 32 tensor cores
    CPU 6-core Arm® Cortex®-A78AE v8.2 64-bit CPU 1.5MB L2 + 4MB L3
    Memory 8GB 128-bit LPDDR5
    102 GB/s
    Storage Supports SD card slot and external NVMe
    Power 7W–25W

    M4 的 NPU 性能为 38 TOPS ( INT8 )

    拿来跑私人还行,至少比游戏卡节能
    jmdxp
        2
    jmdxp  
       3 天前
    那里能买到呢?
    sbboy
        3
    sbboy  
       3 天前
    在中国卖吗?
    shenyiyouge
        4
    shenyiyouge  
       3 天前
    什么价格呢
    shenyiyouge
        5
    shenyiyouge  
       3 天前
    @shenyiyouge 哎呀呀,看到了,在哪买
    felixlong
        6
    felixlong  
       3 天前
    内存只有 8G ,跑大模型小了点吧.
    iamqk
        7
    iamqk  
       3 天前   ❤️ 1
    @JayZXu 主打 AI 我理解 问题是 arm ,用 linux 吗?
    wweerrgtc
        8
    wweerrgtc  
       3 天前
    这个外观有点太简陋了, 电路都裸露在外, 感觉容易坏
    qhgongzi
        9
    qhgongzi  
    OP
       3 天前
    @shenyiyouge
    @jmdxp 淘宝应该可以,
    上一代“Jetson Orin Nano”在淘宝有,
    这一代“Jetson Orin Nano Super” 等有货了估计淘宝有卖,刚出来的,再等等
    AFOX
        10
    AFOX  
       3 天前
    @wweerrgtc 开发板不都是这样吗
    qhgongzi
        11
    qhgongzi  
    OP
       3 天前
    @iamqk Linux ,这里有个老外的评测,他演示了拆机,跑车辆识别,大模型这些应用
    H97794
        12
    H97794  
       3 天前
    @JayZXu @felixlong 要是能像 Mac Mini 搞集群, 那要起飞
    qipan0321
        13
    qipan0321  
       3 天前
    @shenyiyouge 看文档店铺是 https://store.nvidia.com/jetson/store/ 不过我这打不开
    yolee599
        14
    yolee599  
       3 天前 via Android
    这种板子一般不是跑大模型的吧,都是把一些 yolo ,TF 之类的模型在电脑端训练好,还要量化才能运行在板子上。
    tool2dx
        15
    tool2dx  
       3 天前
    那么多 cuda 核心,跑原神一定很强。
    baibaibai0126
        16
    baibaibai0126  
       3 天前   ❤️ 1
    这个系列的设备从 nano 到 orin 我们实验室都买过,都是用来部署在边端做视觉检测的。
    Hana1024
        17
    Hana1024  
       3 天前
    不知道香港能不能买,想搞一个
    PaulSamuelson
        18
    PaulSamuelson  
       3 天前
    游戏工作室,多开神器🐶
    lingeo
        19
    lingeo  
       3 天前
    这个是边缘计算系列的产品,一直在稳定的迭代更新。
    joequan
        20
    joequan  
       3 天前   ❤️ 1
    这就是个开发版,说成电脑有点夸张了。
    NDHT
        21
    NDHT  
       3 天前
    @Hana1024 刚发布还不知道,转运到香港至少可行
    superrichman
        22
    superrichman  
       3 天前
    树莓派 pro
    树莓派 pro max
    chiu
        24
    chiu  
       3 天前
    @wweerrgtc #8
    这是 Dev-Kit, 每一代都是这样的
    tsq851015
        25
    tsq851015  
       3 天前
    @Hana1024 同问,老哥有消息了记得戳我
    234ygg
        26
    234ygg  
       3 天前
    一直都有卖的,购买链接在这
    https://developer.nvidia.com/buy-jetson
    CodeAllen
        27
    CodeAllen  
       3 天前
    Orin Nano Super ,没看出来跟 Orin Nano 有什么区别,反正都挺贵。
    Nano 都还在吃灰呢
    murmur
        28
    murmur  
       3 天前
    @tool2dx 这不是废话么,原神现在室温 5g 是手机基本测试,8gen2 就能 wifi 原神,8gen3 可以 5g 原神,8e 能开超分

    过不了原神测试的优化还不如华为的麒麟
    sunmacarenas
        29
    sunmacarenas  
       3 天前
    GPU 性能 与 NVIDIA Jetson AGX Orin 相比 差了一半,内存小了很多,但价格便宜。看看能不能组 EXO 集群。
    timeance
        30
    timeance  
       3 天前
    原文地址: https://developer.nvidia.com/blog/nvidia-jetson-orin-nano-developer-kit-gets-a-super-boost/

    本质上就是英伟达官方的”超频“固件
    wm5d8b
        31
    wm5d8b  
       2 天前 via Android
    只是老款的炒冷饭吧,没啥提升。
    买了 Turing Pi 2 ,本想组 jetson 集群,最后换成 rk3588 ,RKNPU 也不是不能用
    buhuipao
        32
    buhuipao  
       1 天前 via iPhone
    @wweerrgtc 拿个鞋盒包着就行😏,没那么夸张
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2746 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 13:19 · PVG 21:19 · LAX 05:19 · JFK 08:19
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.