V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
naldo0193
V2EX  ›  问与答

请教 docker TensorFlow/Saving,部署模型的时候怎样配置或者判断显存应该是多少。

  •  
  •   naldo0193 · 2020-05-07 22:57:25 +08:00 · 1200 次点击
    这是一个创建于 1421 天前的主题,其中的信息可能已经有所发展或是发生改变。

    学习使用 docker TensorFlow/Saving 部署,显存满了,实际上应该用不了这么多显存(猜的)。使用 docker TensorFlow/Saving 可以配置显存大小吗?有没有方法去预估部署的模型应该是多少显存呢?

    3 条回复    2020-05-08 09:00:43 +08:00
    c0xt30a
        1
    c0xt30a  
       2020-05-07 23:36:21 +08:00
    TF 默认占用所有显存。

    如果运行时不足,可以试着
    1. 修改 batch size
    2. 如果是图片之类的数据,divide and conquer
    joyme
        2
    joyme  
       2020-05-07 23:44:11 +08:00
    你想打的是 tensorflow serving 吗?有个这个参数可以试试:--per_process_gpu_memory_fraction=0.5
    naldo0193
        3
    naldo0193  
    OP
       2020-05-08 09:00:43 +08:00
    @c0xt30a
    @joyme
    感谢
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2870 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 34ms · UTC 13:08 · PVG 21:08 · LAX 06:08 · JFK 09:08
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.