Python列表创建与销毁及缓存池机制

作者:??编程学习网???? 时间:2023-11-29 14:21:21 

列表的创建

创建列表,Python底层只提供了唯一一个Python/C API,也就是PyList_New。这个函数接收一个size参数,允许我们在创建一个PyListObject对象时指定底层的PyObject *数组的长度。

PyObject *
PyList_New(Py_ssize_t size)
{  
   //声明一个PyListObject *对象
   PyListObject *op;
#ifdef SHOW_ALLOC_COUNT
   static int initialized = 0;
   if (!initialized) {
       Py_AtExit(show_alloc);
       initialized = 1;
   }
#endif

//如果size小于0,直接抛异常
   if (size < 0) {
       PyErr_BadInternalCall();
       return NULL;
   }
   //缓存池是否可用,如果可用
   if (numfree) {
       //将缓存池内对象个数减1
       numfree--;
       //从缓存池中获取
       op = free_list[numfree];
       //设置引用计数
       _Py_NewReference((PyObject *)op);
#ifdef SHOW_ALLOC_COUNT
       count_reuse++;
#endif
   } else {
       //不可用的时候,申请内存
       op = PyObject_GC_New(PyListObject, &PyList_Type);
       if (op == NULL)
           return NULL;
#ifdef SHOW_ALLOC_COUNT
       count_alloc++;
#endif
   }
   //如果size等于0,ob_item设置为NULL
   if (size <= 0)
       op->ob_item = NULL;
   else {
       //否则的话,创建一个指定容量的指针数组,然后让ob_item指向它
       //所以是先创建PyListObject对象, 然后创建指针数组
       //最后通过ob_item建立联系
       op->ob_item = (PyObject **) PyMem_Calloc(size, sizeof(PyObject *));
       if (op->ob_item == NULL) {
           Py_DECREF(op);
           return PyErr_NoMemory();
       }
   }
   //设置ob_size和allocated,然后返回op
   Py_SIZE(op) = size;
   op->allocated = size;
   _PyObject_GC_TRACK(op);
   return (PyObject *) op;
}

我们注意到源码里面有一个缓存池,是的,Python大部分对象都有自己的缓存池,只不过实现的方式不同。

列表的销毁

创建PyListObject对象时,会先检测缓存池free_list里面是否有可用的对象,有的话直接拿来用,否则通过malloc在系统堆上申请。列表的缓存池是使用数组实现的,里面最多维护80个PyListObject对象。

#ifndef PyList_MAXFREELIST
#define PyList_MAXFREELIST 80
#endif
static PyListObject *free_list[PyList_MAXFREELIST];

根据之前的经验我们知道,既然创建的时候能从缓存池中获取,那么在执行析构函数的时候也要把列表放到缓存池里面。

static void
list_dealloc(PyListObject *op)
{
   Py_ssize_t i;
   PyObject_GC_UnTrack(op);
   Py_TRASHCAN_SAFE_BEGIN(op)
   //先释放底层数组
   if (op->ob_item != NULL) {
       i = Py_SIZE(op);
       //但是释放之前,还有一件重要的事情
       //要将底层数组中每个指针指向的对象的引用计数都减去1
       //因为它们不再持有对"对象"的引用
       while (--i >= 0) {
           Py_XDECREF(op->ob_item[i]);
       }
       //然后释放底层数组所占的内存
       PyMem_FREE(op->ob_item);
   }
   //判断缓冲池里面PyListObject对象的个数,如果没满,就添加到缓存池
   //注意:我们看到执行到这一步的时候, 底层数组已经被释放掉了
   if (numfree < PyList_MAXFREELIST && PyList_CheckExact(op))
   //添加到缓存池的时候,是添加到尾部
   //获取的时候也是从尾部获取
       free_list[numfree++] = op;
   else
       //否则的话就释放掉PyListObject对象所占的内存
       Py_TYPE(op)->tp_free((PyObject *)op);
   Py_TRASHCAN_SAFE_END(op)
}

我们知道在创建一个新的PyListObject对象时,实际上是分为两步的,先创建PyListObject对象,然后创建底层数组,最后让PyListObject对象中的ob_item成员指向这个底层数组。

同理,在销毁一个PyListObject对象时,先销毁ob_item维护的底层数组,然后再释放PyListObject对象自身(如果缓存池已满)。

现在可以很清晰地明白了,原本空荡荡的缓存池其实是被已经死去的PyListObject对象填充了。在以后创建新的PyListObject对象时,Python会首先唤醒这些死去的PyListObject对象,给它们一个洗心革面、重新做人的机会。但需要注意的是,这里缓存的仅仅是PyListObject对象,对于底层数组,其ob_item已经不再指向了。

从list_dealloc中我们看到,PyListObject对象在放进缓存池之前,ob_item指向的数组就已经被释放掉了,同时数组中指针指向的对象的引用计数会减1。所以最终数组中这些指针指向的对象也大难临头各自飞了,或生存、或毁灭,总之此时和PyListObject之间已经没有任何联系了。

但是为什么要这么做呢?为什么不连底层数组也一起维护呢?可以想一下,如果继续维护的话,数组中指针指向的对象永远不会被释放,那么很可能会产生悬空指针的问题,所以这些指针指向的对象所占的空间必须交还给系统(前提是没有其它指针指向了)。

但是实际上,是可以将PyListObject对象维护的底层数组进行保留的,即:只将数组中指针指向的对象的引用计数减1,然后将数组中的指针都设置为NULL,不再指向之前的对象了,但是并不释放底层数组本身所占用的内存空间。

因此这样一来,释放的内存不会交给系统堆,那么再次分配的时候,速度会快很多。但是这样带来一个问题,就是这些内存没人用也会一直占着,并且只能供PyListObject对象的ob_item指向的底层数组使用。因此Python还是为避免消耗过多内存,采取将底层数组所占的内存交还给了系统堆这样的做法,在时间和空间上选择了空间。

lst1 = [1, 2, 3]
print(id(lst1))  # 1243303086208
# 扔到缓存池中,放在数组的尾部
del lst1
# 从缓存池中获取,也会从数组的尾部开始拿
lst2 = [1, 2, 3]
print(id(lst2))  # 1243303086208
# 因此打印的地址是一样的

小结

作为一个功能强大的数据结构,多花些时间是有必要的。

来源:https://juejin.cn/post/7089263511049601031

标签:Python,列表,创建,缓存池,机制
0
投稿

猜你喜欢

  • Python彻底删除文件夹及其子文件方式

    2022-07-27 04:18:53
  • IE7的web标准之道 Ⅰ

    2008-08-13 12:42:00
  • MySQL中几种插入和批量语句实例详解

    2024-01-26 22:09:06
  • jQuery实现弹出带遮罩层的居中浮动窗口效果

    2024-04-19 10:17:20
  • Mysql全文搜索match against的用法

    2024-01-19 16:30:57
  • pytorch 网络参数 weight bias 初始化详解

    2023-08-12 07:43:57
  • 错误22022 SQLServerAgent当前未运行的解决方法

    2024-01-27 21:19:32
  • MySql批量插入优化Sql执行效率实例详解

    2024-01-18 07:52:06
  • 浅谈Python访问MySQL的正确姿势

    2024-01-16 11:22:25
  • Python二叉树定义与遍历方法实例分析

    2023-06-26 17:26:56
  • MySql 随机取N条数据

    2009-03-17 12:46:00
  • sqlserver bcp(数据导入导出工具)一般用法与命令详解

    2024-01-27 03:12:08
  • MySql范围查找时索引不生效问题的原因分析

    2024-01-12 14:42:33
  • 使用vue打包时gzip压缩的两种方案

    2024-05-21 10:29:45
  • python 数据类型强制转换的总结

    2021-03-25 03:40:26
  • 详解Go中Map类型和Slice类型的传递

    2024-04-23 09:47:03
  • Python通过命令提示符安装matplotlib

    2022-12-05 01:16:53
  • Python pyecharts模块安装与入门教程

    2023-09-11 06:52:41
  • Pytorch自动求导函数详解流程以及与TensorFlow搭建网络的对比

    2023-07-08 18:44:37
  • JavaScript中实现字符串的取左取右(实现left和right功能)

    2009-07-20 12:39:00
  • asp之家 网络编程 m.aspxhome.com