V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Arsene
V2EX  ›  程序员

研究生阶段搞机器学习,搞个没 N 卡的轻薄笔记本会很不方便吗?会用到笔记本跑模型吗

  •  1
     
  •   Arsene · 2020-05-08 18:29:35 +08:00 · 6614 次点击
    这是一个创建于 1419 天前的主题,其中的信息可能已经有所发展或是发生改变。

    考虑到实验室应该会有台式机跑模型训练,打算买个锐龙版轻薄本,或者 mx350 。平时干活会用到笔记本跑模型吗?

    34 条回复    2020-05-10 09:39:05 +08:00
    ysmox
        1
    ysmox  
       2020-05-08 19:05:06 +08:00
    建议问下同门师兄师姐的建议
    lv2016
        2
    lv2016  
       2020-05-08 19:08:25 +08:00
    笔记本那速度还是算了吧。。。
    loryyang
        3
    loryyang  
       2020-05-08 19:25:24 +08:00
    笔记本基本上跑不了深度学习模型,要不就是非常简单的模型。但是实验室肯定会给你提供机器的
    Muniesa
        4
    Muniesa  
       2020-05-08 19:29:41 +08:00 via Android
    最多拿来试一下代码能不能用…
    yuruizhe
        5
    yuruizhe  
       2020-05-08 19:43:36 +08:00
    没 N 卡的轻薄笔记本会很不方便吗?不会,我个人很少用笔记本折腾 linux
    会用到笔记本跑模型吗?会,我两个同学学习自动驾驶,用笔记本跑模型,因为摄像头在车上
    个人目前的感受——用笔记本 ssh 台式机才是不二选择
    ipwx
        6
    ipwx  
       2020-05-08 19:47:49 +08:00
    你没法使用笔记本跑模型。只有 ssh 连接某台台式机 /服务器这一条路可走。

    所以写代码用啥都无所谓。windows 本,macbook,都可以。当然,一些库可能 nix 系统更容易安装。
    Drahcir
        7
    Drahcir  
       2020-05-08 19:50:35 +08:00
    笔记本跑个学习用的小模型还行,大的就算了吧。
    建议问一问导师还有学长学姐,一般实验室肯定会提供 SSH 之类的用来连接台式机。
    我个人是选择精致的轻薄本,跑需要性能的程序就远程连接工作站。
    p2pCoder
        8
    p2pCoder  
       2020-05-08 19:51:46 +08:00
    实验室没机器?
    lizytalk
        9
    lizytalk  
       2020-05-08 19:52:02 +08:00 via iPhone
    不会,笔记本验证模型能不能跑起来就够了,人家用 MacBook 做深度学习的不也照样做嘛
    YUX
        10
    YUX  
       2020-05-08 20:03:56 +08:00
    不会不方便, 如果是小模型, 在早期调试的时候用笔记本跑一跑是完全可以的

    如果是训练大模型, 即便你笔记本有 n 卡, 训练的时候笔记本也会处于不能自理的状态, 其他的活啥也干不了温度还贼高......

    对我来说, 在 mbp 上的训练时间不会超过半小时, 其他的就在 colab 上跑, 或者租一个按小时付费那种 titan rtx, tesla v100 也就 5 块钱一小时
    longbye0
        11
    longbye0  
       2020-05-08 20:08:26 +08:00
    不会。
    从来不用笔记本写代码,win 笔记本就是用来写本子的。
    namelosw
        12
    namelosw  
       2020-05-08 20:11:07 +08:00
    感觉这种只能连 server 。

    感觉还是本机有个 N 卡比较方便。能交互的那种还好,要 commit deploy 的模型就很恶心。现在用 Mac Pro 没 N 卡驱动真难受……拖一拖再不出驱动就只能买 Vega 交火了。
    mayfly233
        13
    mayfly233  
       2020-05-08 20:22:02 +08:00
    实验室没机器就别做机器学习了

    实验室有机器的话笔记本随便买 反正都连 server
    Huelse
        14
    Huelse  
       2020-05-08 20:24:50 +08:00
    笔记本注重续航、省电、重量就可以了,能打字打代码就行,钱多点还能加到外观上,不用来训练、生产之类的
    coloz
        15
    coloz  
       2020-05-08 20:25:11 +08:00   ❤️ 1
    你还没跑几次,发现就已经毕业了
    nightwitch
        16
    nightwitch  
       2020-05-08 22:34:28 +08:00
    n 卡可以很弱,但是不能没有。实验室的工作站不是你独享,也许你只是想跑个小 batch 看一下网络是否在工作,loss 是否在下降,但是工作站其他人在训练的时候你就跑不了,这个时候本机有显卡就很方便。

    实验室的工作站其实并不好用,最主要的问题是,凡是管理规范的实验室,你都拿不到 root 权限,除非你本人是管理员。要是有一些软件包没有装,还要去找管理的人帮你装上,或者自己编译,无论哪一个,都很麻烦。
    necomancer
        17
    necomancer  
       2020-05-08 22:38:54 +08:00
    自己有的话调试方便。除非你们实验室钱足够,或者管理比较科学,比如每人一台服务器、或者固定多少显卡之类的。P.S. 虽然我不是做机器学习的,但是也用 GPU 进行运算。
    chinanala
        18
    chinanala  
       2020-05-08 23:24:42 +08:00
    可以看看这几天发布的 联想 Yoga14s 小新 15 AMD-4800u 吊打 Intel9 标压,已经不逊台式机了
    shakespaces
        19
    shakespaces  
       2020-05-08 23:29:53 +08:00
    可以写代码,初步跑一下简单模型。
    真跑实验还得用服务器,实验室不给提供的话,你就得自己搞个 N 卡台式机
    Lagrangian
        20
    Lagrangian  
       2020-05-09 03:01:59 +08:00 via Android
    能 ssh 就行,轻薄本就是干这个的。实验室没有台式机给你用也不要紧,可以用 google cloud 之类的。如果你恰巧财力雄厚,可以加一台台式机或者显卡坞。
    dartabe
        21
    dartabe  
       2020-05-09 03:15:51 +08:00
    笔记本配 n 卡你不如在线跑. google 可以选 GPU
    GrayXu
        22
    GrayXu  
       2020-05-09 03:18:54 +08:00   ❤️ 1
    笔记本太羸弱,debug 和训练都应该在服务器上才是正确的选择。不管这服务器是 colab 的免费 GPU 还是老师给的 GPU 。

    3 年炼丹练习生。前面有人说机器被占用什么的,那说明你们实验室资源紧张,那要不要自己买 GPU 资源是另一回事,和程序应不应该在服务器上跑不冲突。
    nnqijiu
        23
    nnqijiu  
       2020-05-09 08:02:54 +08:00
    其实搞机器学习可以不需要 GPU,搞深度学习才需要 GPU
    leewea
        24
    leewea  
       2020-05-09 08:39:39 +08:00
    用 google 的 colab
    xiaoyaocmx
        25
    xiaoyaocmx  
       2020-05-09 09:06:57 +08:00
    如果老师有卡就用老师的卡啊,不然就 aws
    galileo1214
        26
    galileo1214  
       2020-05-09 09:22:18 +08:00
    过来人和你说,笔记本就算了,研究室不给的话就 colab,再不济百度也行。
    研究室不支持的话,还是别 train 了,换个方向吧。
    ychost
        27
    ychost  
       2020-05-09 09:34:19 +08:00
    笔记本只适合编码,train 不得行,没资源自给租一个 aws 或者 azure 的服务来训练吧
    AeroXi
        28
    AeroXi  
       2020-05-09 10:01:10 +08:00
    笔记本用来 ssh 连实验室服务器就行了,搞机器学习的实验室都会有吧,笔记本的显卡再强散热也是个问题
    要是实验室提供的不够用,像 mistgpu.com 这种租个 titan rtx 或者 V100 也就一小时 5 元,找老师报销去
    xwhxbg
        29
    xwhxbg  
       2020-05-09 11:36:18 +08:00
    根据我的经验,验证网络是否 work 都不行,大点的直接爆显存,batch 小了几十个 epoch loss 都不动弹,没啥验证意义,但是我还是觉得你买个 n 卡笔记本比较好,起码可以玩游戏
    northisland
        30
    northisland  
       2020-05-09 12:55:19 +08:00
    预算够的情况下,是功率超过 200w 的大笔记本,其实还是有一个香,

    折腾一下 cuda,再打打正经的游戏不香么?
    x070mq 的算力,是 x080ti 的一半。应个急完全 ok 。

    本机调试也是很香的。
    northisland
        31
    northisland  
       2020-05-09 13:05:23 +08:00
    当然,更多情况是,远程调试,本机调试,遇到很复杂的算法时,同时歇菜……collecting data...
    systemcall
        32
    systemcall  
       2020-05-09 21:39:47 +08:00
    现在基本上都有 ipv6 地址了,就算是家里的电脑远程连上去就可以了,没必要放本地跑
    mx350 的性能太差了,真正用的话也排不上用场,还是远程连实验室的台式机
    而且台式机的话,你可以收矿卡来跑,便宜多了,PCIe x4 的口子应该够了,1000 左右的主板有可以插 3 个显卡的,只不过那样就装不进一般的机箱了
    yiningyang1228
        33
    yiningyang1228  
       2020-05-09 22:07:42 +08:00
    虽然但是,还是建议有一个带 N 卡的笔记本。
    我是用 mac 做 DL 的,大部分时间还是在服务器上跑完全 OK,但是难保希望调试一个 cuda/pytorch 或者 tf 的小 demo,或者紧急时刻马上要和导师开组会了需要展示一个 demo 调一个 bug,或者有个小比赛小演讲需要部署一个项目等等。这个时候虽然也可以远程解决,但是如果自己的电脑有一块卡的话,很多问题就会变的相当简单。
    当然这只是在整个研究生博士生生涯中出现几率很小的一些场景,但一旦出现了还是希望自己本地有一块卡,能解决这些问题。
    kacawa
        34
    kacawa  
       2020-05-10 09:39:05 +08:00
    买个联想 Y7000P RTX2060 那款
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   5450 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 32ms · UTC 08:34 · PVG 16:34 · LAX 01:34 · JFK 04:34
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.