>백엔드 개발 >파이썬 튜토리얼 >Python에서 객체 복사 및 메모리 레이아웃을 구현하는 방법

Python에서 객체 복사 및 메모리 레이아웃을 구현하는 방법

王林
王林앞으로
2023-05-15 16:37:06681검색

    머리말

    아래 프로그램 조각 중 일부의 출력 결과를 알고 계십니까?

    a = [1, 2, 3, 4]
    b = a
    print(f"{a = } \t|\t {b = }")
    a[0] = 100
    print(f"{a = } \t|\t {b = }")
    a = [1, 2, 3, 4]
    b = a.copy()
    print(f"{a = } \t|\t {b = }")
    a[0] = 100
    print(f"{a = } \t|\t {b = }")
    a = [[1, 2, 3], 2, 3, 4]
    b = a.copy()
    print(f"{a = } \t|\t {b = }")
    a[0][0] = 100
    print(f"{a = } \t|\t {b = }")
    a = [[1, 2, 3], 2, 3, 4]
    b = copy.copy(a)
    print(f"{a = } \t|\t {b = }")
    a[0][0] = 100
    print(f"{a = } \t|\t {b = }")
    a = [[1, 2, 3], 2, 3, 4]
    b = copy.deepcopy(a)
    print(f"{a = } \t|\t {b = }")
    a[0][0] = 100
    print(f"{a = } \t|\t {b = }")

    Python 객체의 메모리 레이아웃

    Python에서 객체의 메모리 주소를 어떻게 결정해야 하나요? Python은 객체의 메모리 주소를 얻기 위해 내장된 함수 id()를 제공합니다.

    a = [1, 2, 3, 4]
    b = a
    print(f"{a = } \t|\t {b = }")
    a[0] = 100
    print(f"{a = } \t|\t {b = }")
    print(f"{id(a) = } \t|\t {id(b) = }")
    # 输出结果
    # a = [1, 2, 3, 4]  |  b = [1, 2, 3, 4]
    # a = [100, 2, 3, 4]  |  b = [100, 2, 3, 4]
    # id(a) = 4393578112  |  id(b) = 4393578112

    사실 위 객체의 메모리 레이아웃에 문제가 있거나 충분히 정확하지 않지만 여전히 그럴 수 있습니다. 표현된 각 객체 간의 관계를 좀 더 자세히 살펴보겠습니다. Cpython에서는 각 변수를 표현되는 데이터를 가리키는 포인터로 생각할 수 있습니다. 이 포인터는 Python 객체의 메모리 주소를 저장합니다.

    Python에서 목록은 실제로 실제 데이터가 아닌 각 Python 개체에 대한 포인터를 저장합니다. 따라서 위의 작은 코드 조각을 사용하여 다음과 같이 메모리의 개체 레이아웃을 나타낼 수 있습니다. a는 메모리에 있는 [1, 2, 3, 4] 목록을 가리킵니다. 목록에는 4개의 데이터가 포인터이고 이 4개의 포인터는 1, 2를 가리킵니다. 메모리 3,4 이 네 가지 데이터입니다. 궁금한 점이 있을 수 있는데, 이것이 문제가 되는 것 아닌가요? 그것들은 모두 정수 데이터이므로 정수 데이터를 목록에 직접 저장하지 않는 이유는 무엇입니까? 이 데이터를 가리키는 포인터를 추가해야 하는 이유는 무엇입니까?

    실제로 Python에서는 모든 Python 개체를 목록에 저장할 수 있습니다. 예를 들어 다음 프로그램은 합법적입니다. Python에서 객체 복사 및 메모리 레이아웃을 구현하는 방법

    data = [1, {1:2, 3:4}, {'a', 1, 2, 25.0}, (1, 2, 3), "hello world"]

    위 목록에서 첫 번째 데이터부터 마지막 ​​데이터까지의 데이터 유형은 정수 데이터, 이제 Python의 이러한 기능을 구현하려면 포인터의 기능이 요구 사항을 충족합니까? 각 포인터는 동일한 메모리를 차지하므로 배열을 사용하여 Python 객체의 포인터를 저장한 다음 이 포인터가 실제 Python 객체를 가리킬 수 있습니다!

    빠른 테스트

    [1, 2, 3, 4],列表当中有 4 个数据,这四个数据都是指针,而这四个指针指向内存当中 1,2,3,4 这四个数据。可能你会有疑问,这不是有问题吗?都是整型数据为什么不直接在列表当中存放整型数据,为啥还要加一个指针,再指向这个数据呢?

    事实上在 Python 当中,列表当中能够存放任何 Python 对象,比如下面的程序是合法的:

    data = [[1, 2, 3], 4, 5, 6]
    data_assign = data
    data_copy = data.copy()

    在上面的列表当中第一个到最后一个数据的数据类型为:整型数据,字典,集合,元祖,字符串,现在来看为了实现  Python 的这个特性,指针的特性是不是符合要求呢?每个指针所占用的内存是一样的,因此可以使用一个数组去存储 Python 对象的指针,然后再将这个指针指向真正的 Python 对象!

    牛刀小试

    在经过上面的分析之后,我们来看一下下面的代码,他的内存布局是什么情况:

    a = [1, 2, 3]
    b = a
    print(f"{id(a) = } {id(b) = }")
    for i in range(len(a)):
        print(f"{i = } {id(a[i]) = } {id(b[i]) = }")

    Python에서 객체 복사 및 메모리 레이아웃을 구현하는 방법

    Python에서 객체 복사 및 메모리 레이아웃을 구현하는 방법

    • data_assign = data,关于这个赋值语句的内存布局我们在之前已经谈到过了,不过我们也再复习一下,这个赋值语句的含义就是 data_assign 和 data 指向的数据是同一个数据,也就是同一个列表。

    • data_copy = data.copy()위의 분석 후 다음 코드의 메모리 레이아웃을 살펴보겠습니다.

      a = [[1, 2, 3], 4, 5]
      b = a.copy()
      print(f"{id(a) = } {id(b) = }")
      for i in range(len(a)):
          print(f"{i = } {id(a[i]) = } {id(b[i]) = }")
    • Python에서 객체 복사 및 메모리 레이아웃을 구현하는 방법

    Python에서 객체 복사 및 메모리 레이아웃을 구현하는 방법

    • data_sign = data, 이전에 이 대입문의 메모리 레이아웃에 대해 이야기했지만, 다시 복습해 보겠습니다. 이 대입문의 의미는 data_sign 과 data 가 가리키는 데이터가 동일한 데이터, 즉 동일한 리스트라는 것입니다.

    • data_copy = data.copy(), 이 할당 문의 의미는 data가 가리키는 데이터의 얕은 복사본을 만든 다음 data_copy가 복사된 데이터를 가리키도록 하는 것입니다. , 여기서는 얕은 복사본입니다. 이는 목록의 각 포인터가 복사되지만 목록의 포인터가 가리키는 데이터가 복사된다는 의미입니다. 위 객체의 메모리 레이아웃 다이어그램을 보면 data_copy가 새로운 리스트를 가리키는 것을 알 수 있지만 리스트의 포인터가 가리키는 데이터는 데이터 리스트의 포인터가 가리키는 데이터와 동일합니다. 녹색 화살표로 표시되는 데이터는 검은색 화살표를 사용하여 이를 나타냅니다.

      객체의 메모리 주소 보기

      이전 기사에서는 주로 객체의 메모리 레이아웃을 분석했습니다. 이 섹션에서는 이를 검증하는 매우 효과적인 도구를 제공하기 위해 Python을 사용했습니다. 파이썬에서는 id()를 사용하여 객체의 메모리 주소를 볼 수 있습니다. id(a)는 객체 a가 가리키는 객체의 메모리 주소를 보는 것입니다.

      아래 프로그램의 출력을 보세요:
      id(a) = 4392953984 id(b) = 4393050112 # 两个对象的输出结果不相等
      i = 0 id(a[i]) = 4393045632 id(b[i]) = 4393045632 # 指向的是同一个内存对象因此内存地址相等 下同
      i = 1 id(a[i]) = 4312613200 id(b[i]) = 4312613200
      i = 2 id(a[i]) = 4312613232 id(b[i]) = 4312613232

      이전 분석에 따르면 a와 b는 동일한 메모리를 가리킵니다. 이는 두 변수가 동일한 Python 개체를 가리킨다는 의미이므로 위의 출력 ID는 The 결과 a와 b는 다음과 같습니다.

      id(a) = 4392953984 id(b) = 4392953984🎜i = 0 id(a[i]) = 4312613104 id(b[i]) = 4312613104🎜i = 1 id(a[i]) = 4312613136 id(b[i]) = 4312613136🎜i = 2 id(a[i]) = 4312613168 id(b[i]) = 4312613168🎜🎜 🎜보세요 얕은 복사의 메모리 주소는 다음과 같습니다. 🎜
      a = 10
      a = 100
      a = "hello"
      a = "world"
      🎜이전 분석에 따르면 목록 자체를 호출하는 복사 방법은 목록의 포인터 데이터만 복사하고 복사하지는 않습니다. 따라서 목록의 포인터가 가리키는 실제 데이터를 탐색하여 가리키는 개체의 주소를 얻으면 목록 a와 목록 b가 반환하는 결과는 동일하지만 차이점은 무엇입니까? 앞의 예는 a와 b가 가리키는 리스트의 주소가 다르다는 것입니다. (데이터가 복사되기 때문에 아래의 얕은 복사 결과를 참고하시면 이해하실 수 있습니다.) 🎜

      Python에서 객체 복사 및 메모리 레이아웃을 구현하는 방법

      可以结合下面的输出结果和上面的文字进行理解:

      id(a) = 4392953984 id(b) = 4393050112 # 两个对象的输出结果不相等
      i = 0 id(a[i]) = 4393045632 id(b[i]) = 4393045632 # 指向的是同一个内存对象因此内存地址相等 下同
      i = 1 id(a[i]) = 4312613200 id(b[i]) = 4312613200
      i = 2 id(a[i]) = 4312613232 id(b[i]) = 4312613232

      copy模块

      在 python 里面有一个自带的包 copy ,主要是用于对象的拷贝,在这个模块当中主要有两个方法 copy.copy(x) 和 copy.deepcopy()。

      copy.copy(x) 方法主要是用于浅拷贝,这个方法的含义对于列表来说和列表本身的 x.copy() 方法的意义是一样的,都是进行浅拷贝。这个方法会构造一个新的 python 对象并且会将对象 x 当中所有的数据引用(指针)拷贝一份。

      Python에서 객체 복사 및 메모리 레이아웃을 구현하는 방법

      copy.deepcopy(x)  这个方法主要是对对象 x 进行深拷贝,这里的深拷贝的含义是会构造一个新的对象,会递归的查看对象 x 当中的每一个对象,如果递归查看的对象是一个不可变对象将不会进行拷贝,如果查看到的对象是可变对象的话,将重新开辟一块内存空间,将原来的在对象 x 当中的数据拷贝的新的内存当中。(关于可变和不可变对象我们将在下一个小节仔细分析)

      根据上面的分析我们可以知道深拷贝的花费是比浅拷贝多的,尤其是当一个对象当中有很多子对象的时候,会花费很多时间和内存空间。

      对于 python 对象来说进行深拷贝和浅拷贝的区别主要在于复合对象(对象当中有子对象,比如说列表,元祖、类的实例等等)。这一点主要是和下一小节的可变和不可变对象有关系。

      可变和不可变对象与对象拷贝

      在 python 当中主要有两大类对象,可变对象和不可变对象,所谓可变对象就是对象的内容可以发生改变,不可变对象就是对象的内容不能够发生改变。

      • 可变对象:比如说列表(list),字典(dict),集合(set),字节数组(bytearray),类的实例对象。

      • 不可变对象:整型(int),浮点型(float),复数(complex),字符串,元祖(tuple),不可变集合(frozenset),字节(bytes)。

      看到这里你可能会有疑问了,整数和字符串不是可以修改吗?

      a = 10
      a = 100
      a = "hello"
      a = "world"

      比如下面的代码是正确的,并不会发生错误,但是事实上其实 a 指向的对象是发生了变化的,第一个对象指向整型或者字符串的时候,如果重新赋一个新的不同的整数或者字符串对象的话,python 会创建一个新的对象,我们可以使用下面的代码进行验证:

      a = 10
      print(f"{id(a) = }")
      a = 100
      print(f"{id(a) = }")
      a = "hello"
      print(f"{id(a) = }")
      a = "world"
      print(f"{id(a) = }")

      上面的程序的输出结果如下所示:

      id(a) = 4365566480
      id(a) = 4365569360
      id(a) = 4424109232
      id(a) = 4616350128

      可以看到的是当重新赋值之后变量指向的内存对象是发生了变化的(因为内存地址发生了变化),这就是不可变对象,虽然可以对变量重新赋值,但是得到的是一个新对象并不是在原来的对象上进行修改的!

      我们现在来看一下可变对象列表发生修改之后内存地址是怎么发生变化的:

      data = []
      print(f"{id(data) = }")
      data.append(1)
      print(f"{id(data) = }")
      data.append(1)
      print(f"{id(data) = }")
      data.append(1)
      print(f"{id(data) = }")
      data.append(1)
      print(f"{id(data) = }")

      上面的代码输出结果如下所示:

      id(data) = 4614905664
      id(data) = 4614905664
      id(data) = 4614905664
      id(data) = 4614905664
      id(data) = 4614905664

      从上面的输出结果来看可以知道,当我们往列表当中加入新的数据之后(修改了列表),列表本身的地址并没有发生变化,这就是可变对象。

      我们在前面谈到了深拷贝和浅拷贝,我们现在来分析一下下面的代码:

      data = [1, 2, 3]
      data_copy = copy.copy(data)
      data_deep = copy.deepcopy(data)
      print(f"{id(data ) = } | {id(data_copy) = } | {id(data_deep) = }")
      print(f"{id(data[0]) = } | {id(data_copy[0]) = } | {id(data_deep[0]) = }")
      print(f"{id(data[1]) = } | {id(data_copy[1]) = } | {id(data_deep[1]) = }")
      print(f"{id(data[2]) = } | {id(data_copy[2]) = } | {id(data_deep[2]) = }")

      上面的代码输出结果如下所示:

      id(data ) = 4620333952 | id(data_copy) = 4619860736 | id(data_deep) = 4621137024
      id(data[0]) = 4365566192 | id(data_copy[0]) = 4365566192 | id(data_deep[0]) = 4365566192
      id(data[1]) = 4365566224 | id(data_copy[1]) = 4365566224 | id(data_deep[1]) = 4365566224
      id(data[2]) = 4365566256 | id(data_copy[2]) = 4365566256 | id(data_deep[2]) = 4365566256

      看到这里你肯定会非常疑惑,为什么深拷贝和浅拷贝指向的内存对象是一样的呢?前列我们可以理解,因为浅拷贝拷贝的是引用,因此他们指向的对象是同一个,但是为什么深拷贝之后指向的内存对象和浅拷贝也是一样的呢?这正是因为列表当中的数据是整型数据,他是一个不可变对象,如果对 data 或者 data_copy 指向的对象进行修改,那么将会指向一个新的对象并不会直接修改原来的对象,因此对于不可变对象其实是不用开辟一块新的内存空间在重新赋值的,因为这块内存中的对象是不会发生改变的。

      我们再来看一个可拷贝的对象:

      data = [[1], [2], [3]]
      data_copy = copy.copy(data)
      data_deep = copy.deepcopy(data)
      print(f"{id(data ) = } | {id(data_copy) = } | {id(data_deep) = }")
      print(f"{id(data[0]) = } | {id(data_copy[0]) = } | {id(data_deep[0]) = }")
      print(f"{id(data[1]) = } | {id(data_copy[1]) = } | {id(data_deep[1]) = }")
      print(f"{id(data[2]) = } | {id(data_copy[2]) = } | {id(data_deep[2]) = }")

      上面的代码输出结果如下所示:

      id(data ) = 4619403712 | id(data_copy) = 4617239424 | id(data_deep) = 4620032640
      id(data[0]) = 4620112640 | id(data_copy[0]) = 4620112640 | id(data_deep[0]) = 4620333952
      id(data[1]) = 4619848128 | id(data_copy[1]) = 4619848128 | id(data_deep[1]) = 4621272448
      id(data[2]) = 4620473280 | id(data_copy[2]) = 4620473280 | id(data_deep[2]) = 4621275840

      从上面程序的输出结果我们可以看到,当列表当中保存的是一个可变对象的时候,如果我们进行深拷贝将创建一个全新的对象(深拷贝的对象内存地址和浅拷贝的不一样)。

      代码片段分析

      经过上面的学习对于在本篇文章开头提出的问题对于你来说应该是很简单的,我们现在来分析一下这几个代码片段:

      a = [1, 2, 3, 4]
      b = a
      print(f"{a = } \t|\t {b = }")
      a[0] = 100
      print(f"{a = } \t|\t {b = }")

      这个很简单啦,a 和 b 不同的变量指向同一个列表,a 中间的数据发生变化,那么 b 的数据也会发生变化,输出结果如下所示:

      a = [1, 2, 3, 4]  |  b = [1, 2, 3, 4]
      a = [100, 2, 3, 4]  |  b = [100, 2, 3, 4]
      id(a) = 4614458816  |  id(b) = 4614458816

      我们再来看一下第二个代码片段

      a = [1, 2, 3, 4]
      b = a.copy()
      print(f"{a = } \t|\t {b = }")
      a[0] = 100
      print(f"{a = } \t|\t {b = }")

      因为 b 是 a 的一个浅拷贝,所以 a 和 b 指向的是不同的列表,但是列表当中数据的指向是相同的,但是由于整型数据是不可变数据,当a[0] 发生变化的时候,并不会修改原来的数据,而是会在内存当中创建一个新的整型数据,因此列表 b 的内容并不会发生变化。因此上面的代码输出结果如下所示:

      a = [1, 2, 3, 4]  |  b = [1, 2, 3, 4]
      a = [100, 2, 3, 4]  |  b = [1, 2, 3, 4]

      再来看一下第三个片段:

      a = [[1, 2, 3], 2, 3, 4]
      b = a.copy()
      print(f"{a = } \t|\t {b = }")
      a[0][0] = 100
      print(f"{a = } \t|\t {b = }")

      这个和第二个片段的分析是相似的,但是 a[0] 是一个可变对象,因此进行数据修改的时候,a[0] 的指向没有发生变化,因此 a 修改的内容会影响 b。

      a = [[1, 2, 3], 2, 3, 4]  |  b = [[1, 2, 3], 2, 3, 4]
      a = [[100, 2, 3], 2, 3, 4]  |  b = [[100, 2, 3], 2, 3, 4]

      最后一个片段:

      a = [[1, 2, 3], 2, 3, 4]
      b = copy.deepcopy(a)
      print(f"{a = } \t|\t {b = }")
      a[0][0] = 100
      print(f"{a = } \t|\t {b = }")

      深拷贝会在内存当中重新创建一个和a[0]相同的对象,并且让 b[0] 指向这个对象,因此修改 a[0],并不会影响 b[0],因此输出结果如下所示:

      a = [[1, 2, 3], 2, 3, 4]  |  b = [[1, 2, 3], 2, 3, 4]
      a = [[100, 2, 3], 2, 3, 4]  |  b = [[1, 2, 3], 2, 3, 4]

      撕开 Python 对象的神秘面纱

      我们现在简要看一下 Cpython 是如何实现 list 数据结构的,在 list 当中到底定义了一些什么东西:

      typedef struct {
          PyObject_VAR_HEAD
          /* Vector of pointers to list elements.  list[0] is ob_item[0], etc. */
          PyObject **ob_item;
      
          /* ob_item contains space for 'allocated' elements.  The number
           * currently in use is ob_size.
           * Invariants:
           *     0 <= ob_size <= allocated
           *     len(list) == ob_size
           *     ob_item == NULL implies ob_size == allocated == 0
           * list.sort() temporarily sets allocated to -1 to detect mutations.
           *
           * Items must normally not be NULL, except during construction when
           * the list is not yet visible outside the function that builds it.
           */
          Py_ssize_t allocated;
      } PyListObject;

      在上面定义的结构体当中 :

      allocated 表示分配的内存空间的数量,也就是能够存储指针的数量,当所有的空间用完之后需要再次申请内存空间。

      ob_item 指向内存当中真正存储指向 python 对象指针的数组,比如说我们想得到列表当中第一个对象的指针的话就是 list->ob_item[0],如果要得到真正的数据的话就是 *(list->ob_item[0])。

      PyObject_VAR_HEAD 是一个宏,会在结构体当中定一个子结构体,这个子结构体的定义如下:

      typedef struct {
          PyObject ob_base;
          Py_ssize_t ob_size; /* Number of items in variable part */
      } PyVarObject;

      这里我们不去谈对象 PyObject 了,主要说一下 ob_size,他表示列表当中存储了多少个数据,这个和 allocated 不一样,allocated 表示 ob_item 指向的数组一共有多少个空间,ob_size 表示这个数组存储了多少个数据 ob_size

      在了解列表的结构体之后我们现在应该能够理解之前的内存布局了,所有的列表并不存储真正的数据而是存储指向这些数据的指针。

    위 내용은 Python에서 객체 복사 및 메모리 레이아웃을 구현하는 방법의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

    성명:
    이 기사는 yisu.com에서 복제됩니다. 침해가 있는 경우 admin@php.cn으로 문의하시기 바랍니다. 삭제