溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

Python的內(nèi)存管理和垃圾回收機(jī)制

發(fā)布時(shí)間:2021-08-31 14:04:11 來源:億速云 閱讀:163 作者:chen 欄目:編程語言

本篇內(nèi)容介紹了“Python的內(nèi)存管理和垃圾回收機(jī)制”的有關(guān)知識(shí),在實(shí)際案例的操作過程中,不少人都會(huì)遇到這樣的困境,接下來就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧!希望大家仔細(xì)閱讀,能夠?qū)W有所成!

對(duì)象的內(nèi)存使用

賦值語句是語言最常見的功能了。但即使是最簡(jiǎn)單的賦值語句,也可以很有內(nèi)涵。Python的賦值語句就很值得研究。

a = 1

整數(shù)1為一個(gè)對(duì)象。而a是一個(gè)引用。利用賦值語句,引用a指向?qū)ο?。Python是動(dòng)態(tài)類型的語言(參考 動(dòng)態(tài)類型),對(duì)象與引用分離。Python像使用“筷子”那樣,通過引用來接觸和翻動(dòng)真正的食物——對(duì)象。

 引用和對(duì)象

為了探索對(duì)象在內(nèi)存的存儲(chǔ),我們可以求助于Python的內(nèi)置函數(shù)id()。它用于返回對(duì)象的身份(identity)。其實(shí),這里所謂的身份,就是該對(duì)象的內(nèi)存地址。

a = 1print(id(a))print(hex(id(a)))

在我的計(jì)算機(jī)上,它們返回的是:

11246696
'0xab9c68'

分別為內(nèi)存地址的十進(jìn)制和十六進(jìn)制表示。

在Python中,整數(shù)和短小的字符,Python都會(huì)緩存這些對(duì)象,以便重復(fù)使用。當(dāng)我們創(chuàng)建多個(gè)等于1的引用時(shí),實(shí)際上是讓所有這些引用指向同一個(gè)對(duì)象。

a = 1b = 1print(id(a))print(id(b))

上面程序返回

11246696

11246696

可見a和b實(shí)際上是指向同一個(gè)對(duì)象的兩個(gè)引用。

為了檢驗(yàn)兩個(gè)引用指向同一個(gè)對(duì)象,我們可以用is關(guān)鍵字。is用于判斷兩個(gè)引用所指的對(duì)象是否相同。

# Truea = 1b = 1print(a is b)# Truea = "good"b = "good"print(a is b)# Falsea = "very good morning"b = "very good morning"print(a is b)# Falsea = []
b = []print(a is b)

上面的注釋為相應(yīng)的運(yùn)行結(jié)果??梢钥吹剑捎赑ython緩存了整數(shù)和短字符串,因此每個(gè)對(duì)象只存有一份。比如,所有整數(shù)1的引用都指向同一對(duì)象。即使使用賦值語句,也只是創(chuàng)造了新的引用,而不是對(duì)象本身。長(zhǎng)的字符串和其它對(duì)象可以有多個(gè)相同的對(duì)象,可以使用賦值語句創(chuàng)建出新的對(duì)象。

在Python中,每個(gè)對(duì)象都有存有指向該對(duì)象的引用總數(shù),即引用計(jì)數(shù)(reference count)。

我們可以使用sys包中的getrefcount(),來查看某個(gè)對(duì)象的引用計(jì)數(shù)。需要注意的是,當(dāng)使用某個(gè)引用作為參數(shù),傳遞給getrefcount()時(shí),參數(shù)實(shí)際上創(chuàng)建了一個(gè)臨時(shí)的引用。因此,getrefcount()所得到的結(jié)果,會(huì)比期望的多1。

from sys 
import getrefcount
a = [1, 2, 3]print(getrefcount(a))

b = a
print(getrefcount(b))

由于上述原因,兩個(gè)getrefcount將返回2和3,而不是期望的1和2。

對(duì)象引用對(duì)象

Python的一個(gè)容器對(duì)象(container),比如表、詞典等,可以包含多個(gè)對(duì)象。實(shí)際上,容器對(duì)象中包含的并不是元素對(duì)象本身,是指向各個(gè)元素對(duì)象的引用。

我們也可以自定義一個(gè)對(duì)象,并引用其它對(duì)象:

class from_obj(object):    def __init__(self, to_obj):
        self.to_obj = to_obj
b = [1,2,3]
a = from_obj(b)print(id(a.to_obj))print(id(b))

可以看到,a引用了對(duì)象b。

對(duì)象引用對(duì)象,是Python最基本的構(gòu)成方式。即使是a = 1這一賦值方式,實(shí)際上是讓詞典的一個(gè)鍵值"a"的元素引用整數(shù)對(duì)象1。該詞典對(duì)象用于記錄所有的全局引用。該詞典引用了整數(shù)對(duì)象1。我們可以通過內(nèi)置函數(shù)globals()來查看該詞典。

當(dāng)一個(gè)對(duì)象A被另一個(gè)對(duì)象B引用時(shí),A的引用計(jì)數(shù)將增加1。

from sys import getrefcount
a = [1, 2, 3]print(getrefcount(a))
b = [a, a]print(getrefcount(a))

由于對(duì)象b引用了兩次a,a的引用計(jì)數(shù)增加了2。

容器對(duì)象的引用可能構(gòu)成很復(fù)雜的拓?fù)浣Y(jié)構(gòu)。我們可以用objgraph包來繪制其引用關(guān)系,比如

x = [1, 2, 3]
y = [x, dict(key1=x)]
z = [y, (x, y)]import objgraph
objgraph.show_refs([z], filename='ref_topo.png')

Python的內(nèi)存管理和垃圾回收機(jī)制

objgraph是Python的一個(gè)第三方包。安裝之前需要安裝xdot。

sudo apt-get install xdot
sudo pip install objgraph

objgraph官網(wǎng)

兩個(gè)對(duì)象可能相互引用,從而構(gòu)成所謂的引用環(huán)(reference cycle)。

a = []
b = [a]
a.append(b)

即使是一個(gè)對(duì)象,只需要自己引用自己,也能構(gòu)成引用環(huán)。

a = []
a.append(a)print(getrefcount(a))

引用環(huán)會(huì)給垃圾回收機(jī)制帶來很大的麻煩,我將在后面詳細(xì)敘述這一點(diǎn)。

引用減少

某個(gè)對(duì)象的引用計(jì)數(shù)可能減少。比如,可以使用del關(guān)鍵字刪除某個(gè)引用:

from sys import getrefcount
a = [1, 2, 3]b = aprint(getrefcount(b))del aprint(getrefcount(b))

del也可以用于刪除容器元素中的元素,比如:

a = [1,2,3]del a[0]print(a)

如果某個(gè)引用指向?qū)ο驛,當(dāng)這個(gè)引用被重新定向到某個(gè)其他對(duì)象B時(shí),對(duì)象A的引用計(jì)數(shù)減少:

from sys 
import getrefcount

a = [1, 2, 3]
b = aprint(getrefcount(b))
a = 1print(getrefcount(b))

垃圾回收

吃太多,總會(huì)變胖,Python也是這樣。當(dāng)Python中的對(duì)象越來越多,它們將占據(jù)越來越大的內(nèi)存。不過你不用太擔(dān)心Python的體形,它會(huì)乖巧的在適當(dāng)?shù)臅r(shí)候“減肥”,啟動(dòng)垃圾回收(garbage collection),將沒用的對(duì)象清除。在許多語言中都有垃圾回收機(jī)制,比如Java和Ruby。盡管最終目的都是塑造苗條的提醒,但不同語言的減肥方案有很大的差異 (這一點(diǎn)可以對(duì)比本文和 Java內(nèi)存管理與垃圾回收

)。

從基本原理上,當(dāng)Python的某個(gè)對(duì)象的引用計(jì)數(shù)降為0時(shí),說明沒有任何引用指向該對(duì)象,該對(duì)象就成為要被回收的垃圾了。比如某個(gè)新建對(duì)象,它被分配給某個(gè)引用,對(duì)象的引用計(jì)數(shù)變?yōu)?。如果引用被刪除,對(duì)象的引用計(jì)數(shù)為0,那么該對(duì)象就可以被垃圾回收。比如下面的表:

a = [1, 2, 3]del a

del a后,已經(jīng)沒有任何引用指向之前建立的[1, 2, 3]這個(gè)表。用戶不可能通過任何方式接觸或者動(dòng)用這個(gè)對(duì)象。這個(gè)對(duì)象如果繼續(xù)待在內(nèi)存里,就成了不健康的脂肪。當(dāng)垃圾回收啟動(dòng)時(shí),Python掃描到這個(gè)引用計(jì)數(shù)為0的對(duì)象,就將它所占據(jù)的內(nèi)存清空。

然而,減肥是個(gè)昂貴而費(fèi)力的事情。垃圾回收時(shí),Python不能進(jìn)行其它的任務(wù)。頻繁的垃圾回收將大大降低Python的工作效率。如果內(nèi)存中的對(duì)象不多,就沒有必要總啟動(dòng)垃圾回收。所以,Python只會(huì)在特定條件下,自動(dòng)啟動(dòng)垃圾回收。當(dāng)Python運(yùn)行時(shí),會(huì)記錄其中分配對(duì)象(object allocation)和取消分配對(duì)象(object deallocation)的次數(shù)。當(dāng)兩者的差值高于某個(gè)閾值時(shí),垃圾回收才會(huì)啟動(dòng)。

我們可以通過gc模塊的get_threshold()方法,查看該閾值:

import gcprint(gc.get_threshold())

返回(700, 10, 10),后面的兩個(gè)10是與分代回收相關(guān)的閾值,后面可以看到。700即是垃圾回收啟動(dòng)的閾值??梢酝ㄟ^gc中的set_threshold()方法重新設(shè)置。

我們也可以手動(dòng)啟動(dòng)垃圾回收,即使用gc.collect()。

分代回收

Python同時(shí)采用了分代(generation)回收的策略。這一策略的基本假設(shè)是,存活時(shí)間越久的對(duì)象,越不可能在后面的程序中變成垃圾。我們的程序往往會(huì)產(chǎn)生大量的對(duì)象,許多對(duì)象很快產(chǎn)生和消失,但也有一些對(duì)象長(zhǎng)期被使用。出于信任和效率,對(duì)于這樣一些“長(zhǎng)壽”對(duì)象,我們相信它們的用處,所以減少在垃圾回收中掃描它們的頻率。

小家伙要多檢查

Python將所有的對(duì)象分為0,1,2三代。所有的新建對(duì)象都是0代對(duì)象。當(dāng)某一代對(duì)象經(jīng)歷過垃圾回收,依然存活,那么它就被歸入下一代對(duì)象。垃圾回收啟動(dòng)時(shí),一定會(huì)掃描所有的0代對(duì)象。如果0代經(jīng)過一定次數(shù)垃圾回收,那么就啟動(dòng)對(duì)0代和1代的掃描清理。當(dāng)1代也經(jīng)歷了一定次數(shù)的垃圾回收后,那么會(huì)啟動(dòng)對(duì)0,1,2,即對(duì)所有對(duì)象進(jìn)行掃描。

這兩個(gè)次數(shù)即上面get_threshold()返回的(700, 10, 10)返回的兩個(gè)10。也就是說,每10次0代垃圾回收,會(huì)配合1次1代的垃圾回收;而每10次1代的垃圾回收,才會(huì)有1次的2代垃圾回收。

同樣可以用set_threshold()來調(diào)整,比如對(duì)2代對(duì)象進(jìn)行更頻繁的掃描。

import gc
gc.set_threshold(700, 10, 5)

孤立的引用環(huán)

引用環(huán)的存在會(huì)給上面的垃圾回收機(jī)制帶來很大的困難。這些引用環(huán)可能構(gòu)成無法使用,但引用計(jì)數(shù)不為0的一些對(duì)象。

a = []
b = [a]
a.append(b)del adel b

上面我們先創(chuàng)建了兩個(gè)表對(duì)象,并引用對(duì)方,構(gòu)成一個(gè)引用環(huán)。刪除了a,b引用之后,這兩個(gè)對(duì)象不可能再從程序中調(diào)用,就沒有什么用處了。但是由于引用環(huán)的存在,這兩個(gè)對(duì)象的引用計(jì)數(shù)都沒有降到0,不會(huì)被垃圾回收。

Python的內(nèi)存管理和垃圾回收機(jī)制

孤立的引用環(huán)

為了回收這樣的引用環(huán),Python復(fù)制每個(gè)對(duì)象的引用計(jì)數(shù),可以記為gc_ref。假設(shè),每個(gè)對(duì)象i,該計(jì)數(shù)為gc_ref_i。Python會(huì)遍歷所有的對(duì)象i。對(duì)于每個(gè)對(duì)象i引用的對(duì)象j,將相應(yīng)的gc_ref_j減1。

Python的內(nèi)存管理和垃圾回收機(jī)制

遍歷后的結(jié)果

在結(jié)束遍歷后,gc_ref不為0的對(duì)象,和這些對(duì)象引用的對(duì)象,以及繼續(xù)更下游引用的對(duì)象,需要被保留。而其它的對(duì)象則被垃圾回收。

“Python的內(nèi)存管理和垃圾回收機(jī)制”的內(nèi)容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識(shí)可以關(guān)注億速云網(wǎng)站,小編將為大家輸出更多高質(zhì)量的實(shí)用文章!

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI