V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
Vitta
V2EX  ›  Local LLM

intel mbp 有办法用 gpu 给 ollama 提速吗

  •  
  •   Vitta · Aug 9, 2024 via iPhone · 2255 views
    This topic created in 628 days ago, the information mentioned may be changed or developed.
    目前看的都是 m 系列的可以,intel 的有点慢
    6 replies    2024-08-13 11:58:35 +08:00
    eclipselu
        1
    eclipselu  
       Aug 10, 2024
    好像不行,详见: https://github.com/ollama/ollama/issues/1016 ,我看了下很折腾就没搞了。
    感觉只能装个 Windows 或者 linux
    Vitta
        2
    Vitta  
    OP
       Aug 10, 2024
    @eclipselu 好吧,谢谢,我看了个 intel 加速 的,不过是 linux 和 win 的
    longbye0
        3
    longbye0  
       Aug 11, 2024
    intel 的加速服务现在叫 oneapi ,有用 gpu/vpu 做加速计算的能力,你可以去看 oneapi 支持 macos 不?
    msn1983aa
        4
    msn1983aa  
       Aug 12, 2024
    外置 gpu 一套下来不便宜,有这个钱不如直接换 M 系列本了
    Vitta
        5
    Vitta  
    OP
       Aug 13, 2024
    @msn1983aa 对啊,白瞎 64g 内存了
    Vitta
        6
    Vitta  
    OP
       Aug 13, 2024
    @longbye0 看到一个 OpenVINO 方案,也挺麻烦的。还是不如 m 系列
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5706 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 57ms · UTC 01:59 · PVG 09:59 · LAX 18:59 · JFK 21:59
    ♥ Do have faith in what you're doing.