V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
raw0xff
V2EX  ›  Local LLM

代码助手用 cursor pro 划算还是 cursor+ollama 本地部署划算?

  •  
  •   raw0xff · 42 天前 · 3632 次点击
    这是一个创建于 42 天前的主题,其中的信息可能已经有所发展或是发生改变。

    不知道 ollama 支持的并能跑在 mac mini 16g 上的模型不知道与充值的 gpt claude API 有没有可比性?试过的来说说

    28 条回复    2024-11-11 08:54:49 +08:00
    mumbler
        1
    mumbler  
       42 天前
    本地跑 10B 以下的模型,无论速度还是能力,跟 claude 3.5 没法比,吃饭的家伙别省钱
    lovestudykid
        2
    lovestudykid  
       42 天前
    连 GPT 写代码都远远比不上 claude ,别说你的 local 模型了
    leo72638
        3
    leo72638  
       42 天前
    高端 40 系 N 卡都未必能跑得多好,Mac mini 更别想了。只能说 16g 统一内存让你可以跑起来一些轻量级模型,但是性能远远不足,速度比较慢,效果也不是很好,只能说聊胜于无。
    Retas
        4
    Retas  
       42 天前 via iPhone
    cursor 用第三方 api 功能不全,可以直接 pass 了
    billzhuang
        5
    billzhuang  
       42 天前
    对自己好点吧。
    goldpumpkin
        6
    goldpumpkin  
       42 天前
    订阅 claude 吧,代码生成专业的,project 功能挺好用
    iorilu
        7
    iorilu  
       42 天前
    开玩笑, 要本地能比得上 claude

    那不是人人可以开一个 claude 了

    人家那时几千亿参数模型, 至少是本地几十倍规模
    xayoung
        8
    xayoung  
       42 天前   ❤️ 1
    省钱可以 cursor + deepseek ,便宜量大管饱
    tabc2tgacd
        9
    tabc2tgacd  
       42 天前
    本机跑的我试过几个,没一个能打的
    zmxnv123
        10
    zmxnv123  
       42 天前
    白嫖 google cloud 300 刀的 claude api
    poorcai
        11
    poorcai  
       42 天前
    你们 cursor 怎么订阅的?能写后端吗?
    lemoon
        12
    lemoon  
       42 天前
    Pro Trail 不香吗
    Lemonadeccc
        13
    Lemonadeccc  
       42 天前
    @xayoung cursor 能用 deepseek 第三方 api 么
    kaichen
        14
    kaichen  
       42 天前
    可以参考一下这个 aider 的排行榜,基本的算法题,

    本地跑 72B 4bit 量化的要 40Gb 显存,也才能做答个 60 分

    跑起来很快的 8B 小模型,就 30 多分,你用这个来写代码,就像教小学生写作业,得被气得半死

    https://aider.chat/docs/leaderboards/
    234ygg
        15
    234ygg  
       42 天前
    蠢的和 siri 差不多,懂了吧
    TomXx
        16
    TomXx  
       42 天前
    @poorcai 新用户两个月 pro 适用期,可以下载个试试
    TomXx
        17
    TomXx  
       42 天前
    @TomXx 记错了 是两个星期
    xayoung
        18
    xayoung  
       42 天前
    @Lemonadeccc 可以的,搜教程按着配置就行
    shuimugan
        19
    shuimugan  
       42 天前
    @kaichen 你这个链接里恰巧说明了 Qwen2.5.1-Coder-7B-Instruct 这个 7B 的模型即使在 8bit 量化下也非常接近 gpt4 啊
    BernieDu
        20
    BernieDu  
       42 天前
    copilot 不是也支持 claude 了吗,而且便宜一半
    taotaodaddy
        21
    taotaodaddy  
       42 天前
    别说你自己的本地,就是谷歌+meta 官方本地,它写代码也比不上 claude3.5 啊
    kaichen
        22
    kaichen  
       42 天前
    #19 @shuimugan

    gpt4 代码写很烂,只有 claude-3.5 才能写出大概正确的代码片段

    我的观点是,现在民用本地设备,跑模型写代码这个事情非常不实惠,买个 cursor 20 刀一个月,是本地跑的 100x 效果
    Orenoid
        23
    Orenoid  
       42 天前
    对于大部分消费级显卡,本地部署模型除了数据安全几乎没有任何性价比,又慢效果又一般
    crackidz
        24
    crackidz  
       42 天前
    其实考虑一下 Github Copilot 是个不错的选择,每月 10 刀,一年 100 刀,比 Cursor 便宜一半。同样可以使用 Claude ,功能虽然比 Cursor 目前还差一点,但是其实也差距不大了。相信 Github 还是可以把这些差距补上的。

    如果习惯 Cursor ,那么使用 DeepSeek 的 API 应该会是更好的选择,价格不高,速度和效果也会比本地运行的量化模型更好,如果硬件本身一般,那么这个会是更好选择。

    至于本地模型,应该算是最后的不想花钱选择。
    raw0xff
        25
    raw0xff  
    OP
       41 天前
    @crackidz copilot 是不是只有代码补全,没有创建文件和理解多个文件的功能吧?还是我不会用。cursor 的 cmd+i cmd+l 用起来真舒服。
    webcape233
        26
    webcape233  
       41 天前 via iPhone
    @raw0xff 新版看看 似乎有了部分能力了 估计慢慢会都加上
    laikick
        27
    laikick  
       41 天前
    @raw0xff 新版有, 但是差距还是很大的, copilot 几乎很少主动提示. 而 cursor 会主动提示. 不需要注释提示
    poorcai
        28
    poorcai  
       40 天前
    @TomXx #16 是的,两个星期,貌似不能调试 .net core
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1601 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 16:41 · PVG 00:41 · LAX 08:41 · JFK 11:41
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.