Python のガベージ コレクション メカニズムの分析

Python チュートリアル コラムでは、今日 Python のガベージ コレクション メカニズムを分析します。

##1. ガベージ コレクション

参照カウンタが主なもので、コードのリサイクルとマークのクリアは副次的なものです

1.1 Big Butler refchain

Python の C ソース コードには、refchain と呼ばれる循環双方向リンク リストがあります。Python プログラムでオブジェクトが作成されると、このリンク リストは非常に優れています。 、オブジェクトはrefchainリンクリストに追加されます。言い換えれば、彼はすべてのオブジェクトを保存します。

1.2 参照カウンター

refchain 内のすべてのオブジェクト内に ob_refcnt があり、現在のオブジェクトの参照カウンターを保存します。名前が示すように、これは参照カウンターの回数です。参照されています。
• 値が複数回参照される場合、メモリ上にデータが繰り返し作成されるのではなく、参照カウンタ 1 が作成されます。オブジェクトが破棄されると、参照カウンタは -1 になります。参照カウンタが 0 の場合、オブジェクトは refchain リストから削除され、メモリ内で破棄されます (キャッシュなどの特別な状況は考慮されません)。

age = 18number = age  # 对象18的引用计数器 + 1del age          # 对象18的引用计数器 - 1def run(arg):
    print(arg)
run(number)   # 刚开始执行函数时，对象18引用计数器 + 1，当函数执行完毕之后，对象18引用计数器 - 1 。num_list = [11,22,number] # 对象18的引用计数器 + 1复制代码

1.3 マークのクリアと世代別リサイクル

参照カウンタに基づくガベージ コレクションは非常に便利でシンプルですが、循環参照の問題が依然としてあり、一部のデータを保存できなくなります。例:

v1 = [11,22,33]        # refchain中创建一个列表对象，由于v1=对象，所以列表引对象用计数器为1.v2 = [44,55,66]        # refchain中再创建一个列表对象，因v2=对象，所以列表对象引用计数器为1.v1.append(v2)        # 把v2追加到v1中，则v2对应的[44,55,66]对象的引用计数器加1，最终为2.v2.append(v1)        # 把v1追加到v1中，则v1对应的[11,22,33]对象的引用计数器加1，最终为2.del v1    # 引用计数器-1del v2    # 引用计数器-1复制代码

上記のコードでは、del 操作を実行した後、どの変数もこれら 2 つのリスト オブジェクトを使用しないことがわかりますが、循環参照の問題により、それらの参照カウンタは 0 ではありません。したがって、それらのステータスは、決して使用されておらず、決して破棄されていません。プロジェクト内にそのようなコードが多すぎると、メモリが使い果たされてプログラムがクラッシュするまでメモリが消費されます。
• 循環参照の問題を解決するために、マーク クリアリング テクノロジが導入され、循環参照を持つ可能性のあるオブジェクトに対して特別な処理が実行されます。循環アプリケーションの種類には、リスト、タプル、辞書、セット、自己などがあります。データのネストを可能にするクラスおよびその他の型を定義します。

Mark Clear: リスト、タプル、ディクショナリ、コレクション、カスタム クラス、その他のオブジェクトを保存するための特別なリンク リストを作成し、このリンク リスト内のオブジェクトが循環参照が存在する場合、双方の参照カウンタを -1 とする。

世代リサイクル: マークのクリアでリンク リストを最適化し、循環参照を持つ可能性のあるオブジェクトを 3 つのリンク リストに分割します。リンク リストの名前は、 0/1/2 3 世代 、各世代はオブジェクトとしきい値を保存できます。しきい値に達すると、循環参照を除き、対応するリンク リスト内の各オブジェクトがスキャンされ、それぞれが 1 ずつ減分され、参照カウンタが 0 のオブジェクトは破棄されます。

// 分代的C源码#define NUM_GENERATIONS 3struct gc_generation generations[NUM_GENERATIONS] = {    /* PyGC_Head,                                    threshold,    count */
    {{(uintptr_t)_GEN_HEAD(0), (uintptr_t)_GEN_HEAD(0)},   700,        0}, // 0代
    {{(uintptr_t)_GEN_HEAD(1), (uintptr_t)_GEN_HEAD(1)},   10,         0}, // 1代
    {{(uintptr_t)_GEN_HEAD(2), (uintptr_t)_GEN_HEAD(2)},   10,         0}, // 2代};复制代码

特記事項: 世代 0 と世代 1、2 のしきい値と回数は意味が異なります。

0 世代、カウントは世代 0 のリンク リスト内のオブジェクトの数を表します。しきい値は世代 0 のリンク リスト内のオブジェクトの数のしきい値を表します。それを超えると、世代 0 のスキャン チェックが実行されます。 。 Generation 1、count は世代 0 のリンク リスト スキャン数、threshold は世代 0 のリンク リスト スキャン数のしきい値を表し、しきい値を超えた場合、世代 1 のスキャン チェックが実行されます。 第 2 世代では、count は第 1 世代のリンク リストのスキャン数、threshold は第 1 世代のリンク リストのスキャン数のしきい値を表し、しきい値を超えた場合は第 2 世代のスキャン チェックが実行されます。

1.4 シナリオシミュレーション

メモリ管理とガベージコレクションの詳細な処理をC言語の最下層をベースに図を交えて説明します。

ステップ 1: オブジェクト age=19 を作成すると、オブジェクトは refchain リストに追加されます。

2 番目のステップ: オブジェクト num_list = [11,22] が作成されると、リスト オブジェクトは参照チェーンと世代 0 に追加されます。

ステップ 3: 新しく作成されたオブジェクトにより、世代 0 のリンク リスト上のオブジェクトの数がしきい値の 700 を超えると、リンク リスト上のオブジェクトはスキャンして確認する必要があります。

世代 0 がしきい値より大きい場合、最下層は世代 0 を直接スキャンせず、最初に 2 と 1 もしきい値を超えるかどうかを判断します。

世代 2 と 1 がしきい値に達しない場合は、世代 0 をスキャンし、世代 1 の 1 をカウントします。
• 第 2 世代がしきい値に達した場合、2、1、0 の 3 つのリンク リストが結合されてフル スキャンが行われ、第 2、第 1、および第 0 世代のカウントがリセットされます。 0.
• 世代 1 がしきい値に達すると、1 と 0 の 2 つのリンクされたリストがスキャンのために結合され、すべての世代 1 と 0 のカウントが 0 にリセットされます。
• スプライスされたリンク リストが処理されますスキャン時の主なタスクは、循環参照を削除し、ゴミを破棄することです。詳細なプロセスは次のとおりです:

• 扫描链表，把每个对象的引用计数器拷贝一份并保存到 gc_refs中，保护原引用计数器。
• 再次扫描链表中的每个对象，并检查是否存在循环引用，如果存在则让各自的gc_refs减 1 。
• 再次扫描链表，将 gc_refs 为 0 的对象移动到unreachable链表中；不为0的对象直接升级到下一代链表中。
• 处理unreachable链表中的对象的 析构函数 和 弱引用，不能被销毁的对象升级到下一代链表，能销毁的保留在此链表。析构函数，指的就是那些定义了__del__方法的对象，需要执行之后再进行销毁处理。
• 最后将 unreachable 中的每个对象销毁并在refchain链表中移除（不考虑缓存机制）。

至此，垃圾回收的过程结束。

1.5 缓存机制

从上文大家可以了解到当对象的引用计数器为0时，就会被销毁并释放内存。而实际上他不是这么的简单粗暴，因为反复的创建和销毁会使程序的执行效率变低。Python中引入了“缓存机制”机制。

例如：引用计数器为0时，不会真正销毁对象，而是将他放到一个名为 free_list 的链表中，之后会再创建对象时不会在重新开辟内存，而是在free_list中将之前的对象来并重置内部的值来使用。

• float类型，维护的free_list链表最多可缓存100个float对象。

  v1 = 3.14    # 开辟内存来存储float对象，并将对象添加到refchain链表。
  print( id(v1) ) # 内存地址：4436033488
  del v1    # 引用计数器-1，如果为0则在rechain链表中移除，不销毁对象，而是将对象添加到float的free_list.
  v2 = 9.999    # 优先去free_list中获取对象，并重置为9.999，如果free_list为空才重新开辟内存。
  print( id(v2) ) # 内存地址：4436033488
  # 注意：引用计数器为0时，会先判断free_list中缓存个数是否满了，未满则将对象缓存，已满则直接将对象销毁。复制代码

• int类型，不是基于free_list，而是维护一个small_ints链表保存常见数据（小数据池），小数据池范围：-5 <= value < 257。即：重复使用这个范围的整数时，不会重新开辟内存。

  v1 = 38    # 去小数据池small_ints中获取38整数对象，将对象添加到refchain并让引用计数器+1。
  print( id(v1))  #内存地址：4514343712
  v2 = 38 # 去小数据池small_ints中获取38整数对象，将refchain中的对象的引用计数器+1。
  print( id(v2) ) #内存地址：4514343712
  # 注意：在解释器启动时候-5~256就已经被加入到small_ints链表中且引用计数器初始化为1，
  # 代码中使用的值时直接去small_ints中拿来用并将引用计数器+1即可。另外，small_ints中的数据引用计数器永远不会为0
  # （初始化时就设置为1了），所以也不会被销毁。复制代码

• str类型，维护unicode_latin1[256]链表，内部将所有的ascii字符缓存起来，以后使用时就不再反复创建。

  v1 = "A"
  print( id(v1) ) # 输出：4517720496
  del v1
  v2 = "A"
  print( id(v1) ) # 输出：4517720496
  # 除此之外，Python内部还对字符串做了驻留机制，针对只含有字母、数字、下划线的字符串（见源码Objects/codeobject.c），如果
  # 内存中已存在则不会重新在创建而是使用原来的地址里（不会像free_list那样一直在内存存活，只有内存中有才能被重复利用）。
  v1 = "asdfg"
  v2 = "asdfg"
  print(id(v1) == id(v2)) # 输出：True复制代码

• list类型，维护的free_list数组最多可缓存80个list对象。

 v1 = [11,22,33]
print( id(v1) ) # 输出：4517628816del v1
v2 = ["你","好"]
print( id(v2) ) # 输出：4517628816复制代码

• tuple类型，维护一个free_list数组且数组容量20，数组中元素可以是链表且每个链表最多可以容纳2000个元组对象。元组的free_list数组在存储数据时，是按照元组可以容纳的个数为索引找到free_list数组中对应的链表，并添加到链表中。

v1 = (1,2)
print( id(v1) )del v1  # 因元组的数量为2，所以会把这个对象缓存到free_list[2]的链表中。v2 = ("哈哈哈","Alex")  # 不会重新开辟内存，而是去free_list[2]对应的链表中拿到一个对象来使用。print( id(v2) )复制代码

• dict类型，维护的free_list数组最多可缓存80个dict对象

  v1 = {"k1":123}
  print( id(v1) )  # 输出：4515998128
  del v1
  v2 = {"name":"哈哈哈","age":18,"gender":"男"}
  print( id(v1) ) # 输出：4515998128复制代码

C语言源码底层分析

相关免费学习推荐：python教程（视频）

以上がPython のガベージ コレクション メカニズムの分析の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。