多处理:确保对只读数据的共享访问
在多处理场景中,进程间数据共享的问题经常出现。具体来说,在处理大型只读数据结构时,最好避免将此数据复制到每个进程,这既耗时又占用内存。
考虑以下代码片段:
<code class="python">glbl_array = # a 3 Gb array def my_func( args, def_param = glbl_array): #do stuff on args and def_param if __name__ == '__main__': pool = Pool(processes=4) pool.map(my_func, range(1000))</code>
在此示例中,全局变量 glbl_array 被定义为大型 (3 Gb) 数组。 my_func 函数设计用于对 glbl_array 进行操作。当使用 Pool(processes=4) 生成多个进程进行并行执行时,就会出现问题:每个进程会收到 glbl_array 中数据的单独副本,还是所有进程会共享相同的只读数据?
在 Linux 中,fork 系统调用的语义支持多处理,支持写时复制语义。这意味着,如果 glbl_array 是只读的,除非必要,否则不会在进程之间物理复制数据。
但是,如果修改了 glbl_array,一个进程所做的更改将反映在所有其他进程可访问的数据中流程。为了防止不必要的数据覆盖,请考虑利用不可变对象(例如 glbl_array 的 tostring() 表示形式)作为函数的默认参数。
或者,可以利用 Python 多处理模块提供的共享内存设施显式创建和管理共享内存段,从而确保数据不会跨进程重复。
以上是如何确保多处理中只读数据的共享访问?的详细内容。更多信息请关注PHP中文网其他相关文章!

Python适合数据科学、Web开发和自动化任务,而C 适用于系统编程、游戏开发和嵌入式系统。 Python以简洁和强大的生态系统着称,C 则以高性能和底层控制能力闻名。

2小时内可以学会Python的基本编程概念和技能。1.学习变量和数据类型,2.掌握控制流(条件语句和循环),3.理解函数的定义和使用,4.通过简单示例和代码片段快速上手Python编程。

Python在web开发、数据科学、机器学习、自动化和脚本编写等领域有广泛应用。1)在web开发中,Django和Flask框架简化了开发过程。2)数据科学和机器学习领域,NumPy、Pandas、Scikit-learn和TensorFlow库提供了强大支持。3)自动化和脚本编写方面,Python适用于自动化测试和系统管理等任务。

两小时内可以学到Python的基础知识。1.学习变量和数据类型,2.掌握控制结构如if语句和循环,3.了解函数的定义和使用。这些将帮助你开始编写简单的Python程序。

如何在10小时内教计算机小白编程基础?如果你只有10个小时来教计算机小白一些编程知识,你会选择教些什么�...

使用FiddlerEverywhere进行中间人读取时如何避免被检测到当你使用FiddlerEverywhere...

Python3.6环境下加载Pickle文件报错:ModuleNotFoundError:Nomodulenamed...

如何解决jieba分词在景区评论分析中的问题?当我们在进行景区评论分析时,往往会使用jieba分词工具来处理文�...


热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

AI Hentai Generator
免费生成ai无尽的。

热门文章

热工具

Dreamweaver CS6
视觉化网页开发工具

SecLists
SecLists是最终安全测试人员的伙伴。它是一个包含各种类型列表的集合,这些列表在安全评估过程中经常使用,都在一个地方。SecLists通过方便地提供安全测试人员可能需要的所有列表,帮助提高安全测试的效率和生产力。列表类型包括用户名、密码、URL、模糊测试有效载荷、敏感数据模式、Web shell等等。测试人员只需将此存储库拉到新的测试机上,他就可以访问到所需的每种类型的列表。

PhpStorm Mac 版本
最新(2018.2.1 )专业的PHP集成开发工具

ZendStudio 13.5.1 Mac
功能强大的PHP集成开发环境

SublimeText3 Linux新版
SublimeText3 Linux最新版