V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Rorysky
V2EX  ›  Apple

Apple 发布新的机器学习框架 MLX

  •  
  •   Rorysky · 201 天前 · 2986 次点击
    这是一个创建于 201 天前的主题,其中的信息可能已经有所发展或是发生改变。

    https://github.com/ml-explore/mlx

    是一起维护 pytorch 不方便?

    自主知识产权,旨在打破 Facebook pytorch 卡脖子的现状?

    大家还知道其他信息么?

    20 条回复    2023-12-07 08:54:15 +08:00
    nomagick
        1
    nomagick  
       201 天前   ❤️ 5
    Torch 卡没卡 Apple 脖子我不知道,但 Apple 可卡的是用户的脖子
    idealhs
        2
    idealhs  
       201 天前   ❤️ 5
    @nomagick 😅我寻思没人逼谁买苹果吧
    zealotxxxx
        3
    zealotxxxx  
       201 天前
    这里面的东西,与其说是跟 pytorch 冲突,还不如说是跟 sklearn 重复
    AA5DE3F034ACCB9E
        4
    AA5DE3F034ACCB9E  
       201 天前
    @nomagick 你要是这么想,百度、vivo 啥的,也都在卡用户脖子?
    565656
        5
    565656  
       201 天前
    别惦记你那逼生产力,谁特么用 4060 跑机器学习,直接扔点钱给 R 星,让 GTA6 上 m3max 首发,带动的销量妥妥的
    aeli
        6
    aeli  
       201 天前
    卡脖子的是 nv 吧,反正几个大厂里,就 Apple 没有批量买 NV 家的显卡,以前的仇恨带到 ai 时代了。
    Glauben
        7
    Glauben  
       201 天前
    @565656 #5 GTA6 25 年出,都 m5 了,我觉得有戏。不上 PC 的情况来看,上 mac 可能都 27 年了,m7 了。可以一上
    SkywalkerJi
        8
    SkywalkerJi  
       201 天前
    apple 那芯片性能真的跑得动训练吗
    cwyalpha
        9
    cwyalpha  
       201 天前
    Transformer language model training.
    Large-scale text generation with LLaMA and finetuning with LoRA.
    Generating images with Stable Diffusion.
    Speech recognition with OpenAI's Whisper.

    大模型、SD 、语音都支持了,个人玩家是差不多够用了把
    ShadowPower
        10
    ShadowPower  
       201 天前
    PyTorch 卡 Apple 脖子?
    目前的问题还是苹果硬件性能、硬件支持的特性问题吧。
    把 PyTorch MPS 后端做得更完善一些,比重新开发一个框架有用多了。

    用这个框架,写的在 Mac 上跑通了,但是性能不太够,想部署到 NVIDIA 显卡上训练,要重新写一遍?
    有多卡/多机支持吗?
    ShadowPower
        11
    ShadowPower  
       201 天前   ❤️ 1
    目前的问题还是苹果硬件性能、硬件支持的特性问题吧。
    把 PyTorch MPS 后端做得更完善一些,比重新开发一个框架有用多了。

    用这个框架,写的在 Mac 上跑通了,但是性能不太够,想部署到 NVIDIA 显卡上训练,要重新写一遍?
    有多卡/多机支持吗?

    PyTorch 并不会卡 Apple 脖子。如果自身没有优势,兼容已有的生态才能活下来。
    ShadowPower
        12
    ShadowPower  
       201 天前
    突然发现发重复了,补了一句
    wateryessence
        13
    wateryessence  
       201 天前
    MLX is a NumPy-like array framework designed for efficient and flexible machine learning on Apple silicon, brought to you by Apple machine learning research.
    Pierson
        14
    Pierson  
       201 天前
    感觉像明年 AI 相关更新的副产品。如果是真的可以期待明年的新系统有:LLM Siri ,Generaating Image (相册?新 app ?) Speech recognition (更好的听写?自动字幕?)
    DIMOJANG
        15
    DIMOJANG  
       201 天前 via iPhone
    我感觉这个项目大概率是 Apple 内部项目用的框架,开源出来也只是为了方便开源社区借鉴里面的细节(比方说完善 MPS 后端)
    APEC
        16
    APEC  
       201 天前
    厨子怕是还有啥大招要出吧
    neopenx
        17
    neopenx  
       201 天前
    看起来目前只是一个跑一些简单的 metal compute kernels 的练习作品,连 MPS routines 都没 dispatch
    Python API 山寨 PyTorch 不说,还相当简陋。
    LeonParker
        18
    LeonParker  
       201 天前
    pytorch 是什么情况不太清楚
    但现在 tensorflow 的 metal 支持显然就只是勉强够调试,离能用还差很大一截😅
    qweruiop
        19
    qweruiop  
       200 天前
    问题是,他 mac 又没有服务端的产品。。。开发者把这个框架调通了。。。然后呢?
    总不可能买一堆 ultra 或者笔记本丢机房的嘛。。。
    bailitusu
        20
    bailitusu  
       200 天前   ❤️ 2
    `import mlx as torch`
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1095 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 108ms · UTC 19:13 · PVG 03:13 · LAX 12:13 · JFK 15:13
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.