V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
xiaolinjia
V2EX  ›  Python

memoryview 的使用场景到底是什么呢?

  •  
  •   xiaolinjia · 2020-12-07 16:57:09 +08:00 · 2055 次点击
    这是一个创建于 1207 天前的主题,其中的信息可能已经有所发展或是发生改变。
    我一直想知道 py 的 memoryview 能干嘛,但我平时看的一些技术书和博客,微信公众号都鲜有提及到这块,我平时写代码的时候,也没遇到要使用它的场景。我也查了下,memoryview 是有学习了 numpy 的思想,弄出来的数据结构,好像是用来共享内存不用进行复制操作?所以 memoryview 有什么比较常用的场景吗。
    9 条回复    2020-12-08 18:45:56 +08:00
    wuwukai007
        1
    wuwukai007  
       2020-12-07 17:09:33 +08:00 via Android
    大矩阵计算,矩阵用一个,但是算法不一样,开多进程共享矩阵内存,就不需要每个进程复制一个大矩阵了,效率高,节省内存
    guyskk0x0
        2
    guyskk0x0  
       2020-12-07 19:50:31 +08:00 via Android
    http server, socket 相关场景有用到,可以避免复制内存,实现 zero copy 效果。
    bilibilifi
        3
    bilibilifi  
       2020-12-07 20:35:51 +08:00 via iPhone
    cython 里可以很方便地暴露接口
    mattx
        4
    mattx  
       2020-12-08 10:12:52 +08:00
    @bilibilifi 问下 在 cython 的场景是怎么样的,贴个代码看看
    ruanimal
        5
    ruanimal  
       2020-12-08 10:27:10 +08:00
    zero copy
    xiaolinjia
        6
    xiaolinjia  
    OP
       2020-12-08 10:42:04 +08:00
    @guyskk0x0
    @ruanimal
    两位都提到了零拷贝的场景,但是 py 不是有 mmap 这个模块也提供了这个吗?这个和 mmap 的有啥不同呢?
    ruanimal
        7
    ruanimal  
       2020-12-08 16:11:28 +08:00
    @xiaolinjia

    mmap 是共享内存。
    zero copy 是为了避免重复 copy 对象,比如 socket 发包的时候,避免在多个缓冲区之间反复 copy 内存。zero copy 在 linux 下是基于 sendfile 实现的
    xiaolinjia
        8
    xiaolinjia  
    OP
       2020-12-08 16:55:06 +08:00
    @wuwukai007 你指的是 multiprocessing.Process(target=func1, args=memoryview(sth))、multiprocessing.Process(target=func2, args=memoryview(sth))吗,还是特指 py38 的 multiprocess.SharedMemory 。我看了下 SharedMemory 的源码,确实是有用到 memoryview 和 mmap 。
    wuwukai007
        9
    wuwukai007  
       2020-12-08 18:45:56 +08:00 via Android
    python3.8 的新特性
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   1157 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 18:30 · PVG 02:30 · LAX 11:30 · JFK 14:30
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.