请教 docker TensorFlow/Saving，部署模型的时候怎样配置或者判断显存应该是多少。
naldo0193 · 2020-05-07 22:57:25 +08:00 · 1376 次点击这是一个创建于 1693 天前的主题，其中的信息可能已经有所发展或是发生改变。
学习使用 docker TensorFlow/Saving 部署，显存满了，实际上应该用不了这么多显存（猜的）。使用 docker TensorFlow/Saving 可以配置显存大小吗？有没有方法去预估部署的模型应该是多少显存呢？
3 条回复 • 2020-05-08 09:00:43 +08:00
 |
1
c0xt30a 2020-05-07 23:36:21 +08:00
TF 默认占用所有显存。
如果运行时不足，可以试着 1. 修改 batch size 2. 如果是图片之类的数据，divide and conquer |
 |
2
joyme 2020-05-07 23:44:11 +08:00
你想打的是 tensorflow serving 吗？有个这个参数可以试试：--per_process_gpu_memory_fraction=0.5
|
Select Language