多重處理中的共享記憶體物件:最佳化資料共享
當使用Python的多處理函式庫時,一個大的記憶體數組經常被複製多個使用相同功能的不同進程的時間。為了避免這種開銷,最好跨進程共享數組,特別是當它是唯讀的時。
Fork 的Copy-on-Write 行為
在操作中在具有寫時複製分叉語義的系統中,例如類UNIX 系統,父進程中數據結構的變更不會影響子進程,除非它們自己進行修改。因此,只要不修改數組,就可以跨進程共享它,而不會產生大量記憶體成本。
用於高效數組共享的Multiprocessing.Array
建立沒有記憶體複製的共享數組,使用numpy 或array 創建一個高效的數組結構並將其放置在共享記憶體中。將此結構包裝在 multiprocessing.Array 中並將其傳遞給您的函數。這種方法可確保高效的資料共享,同時最大限度地減少開銷。
可寫入共享物件:鎖定和同步
如果共享物件需要修改,則必須使用同步或鎖定來保護它機制。多處理提供兩個選項:
其他注意事項
以上是如何在 Python 的多處理庫中跨進程有效地共享大型記憶體數組?的詳細內容。更多資訊請關注PHP中文網其他相關文章!