本篇內(nèi)容介紹了“Python高級技巧之怎么用一行代碼減少一半內(nèi)存占用”的有關(guān)知識,在實際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧!希望大家仔細(xì)閱讀,能夠?qū)W有所成!
10年積累的網(wǎng)站設(shè)計制作、網(wǎng)站建設(shè)經(jīng)驗,可以快速應(yīng)對客戶對網(wǎng)站的新想法和需求。提供各種問題對應(yīng)的解決方案。讓選擇我們的客戶得到更好、更有力的網(wǎng)絡(luò)服務(wù)。我雖然不認(rèn)識你,你也不認(rèn)識我。但先網(wǎng)站制作后付款的網(wǎng)站建設(shè)流程,更有青岡免費網(wǎng)站建設(shè)讓你可以放心的選擇與我們合作。
圖片的結(jié)果
下面我來解釋一下,它是如何運行的。
首先,我們考慮一個簡單的 "learning" 例子,創(chuàng)建一個 Dataltem 類,該類是一個人的個人信息,例如姓名,年齡,地址等。
class DataItem(object): def __init__(self, name, age, address): self.name = name self.age = age self.address = address
初學(xué)者的問題:如何知道一個以上這樣的對象占用多少內(nèi)存?
首先,讓我們試著解決一下:
d1 = DataItem("Alex", 42, "-") print ("sys.getsizeof(d1):", sys.getsizeof(d1))
我們得到的答案是 56bytes,這似乎占用了很少的內(nèi)存,相當(dāng)滿意嘍。那么,我們在嘗試另一個包含更多數(shù)據(jù)的對象例子:
d2 = DataItem("Boris", 24, "In the middle of nowhere") print ("sys.getsizeof(d2):", sys.getsizeof(d2))
答案仍然是 56bytes,此刻,似乎我們意識到哪里有些不對?并不是所有的事情都第一眼所見那樣。
直覺不會讓我們失望,一切都不是那么簡單。Python 是一種具有動態(tài)類型的非常靈活的語言,對于它的工作,它存儲了大量的附加數(shù)據(jù)。它們本身占據(jù)了很多。
例如,sys.getsizeof("") 返回 33bytes,是的一個多達(dá) 33 個字節(jié)的空行!并且 sys.getsizeof(1) 返回 24bytes,一個整個數(shù)字占用 24 個 bytes (我想咨詢 C 語言程序員,遠(yuǎn)離屏幕,不想在進一步閱讀,以免對美觀失去信心)。對于更復(fù)雜的元素,如字典,sys.getsizeof(.()) 返回 272 字節(jié),這是針對空字典的,我不會再繼續(xù)了,我希望原理是明確的,并且 RAM 的制造商需要出售他們的芯片。
但是,我們回到我們的 DataItem 類和最初的初學(xué)者的疑惑。
這個類,占多少內(nèi)存?
首先,我們一小寫的形式將這個類的完整內(nèi)容輸出:
def dump(obj): for attr in dir(obj): print(" obj.%s = %r" % (attr, getattr(obj, attr)))
這個函數(shù)將顯示隱藏的“幕后”使所有 Python 函數(shù)(類型、繼承和其他內(nèi)容)都能夠正常工作的內(nèi)容。
結(jié)果令人印象深刻:
這一切內(nèi)容占用多少內(nèi)存?
下邊有一個函數(shù)可以通過遞歸的方式,調(diào)用 getsizeof 函數(shù),計算對象實際數(shù)據(jù)量。
def get_size(obj, seen=None): # From # Recursively finds size of objects size = sys.getsizeof(obj) if seen is None: seen = set() obj_id = id(obj) if obj_id in seen: return 0 # Important mark as seen *before* entering recursion to gracefully handle # self-referential objects seen.add(obj_id) if isinstance(obj, dict): size += sum([get_size(v, seen) for v in obj.values()]) size += sum([get_size(k, seen) for k in obj.keys()]) elif hasattr(obj, '__dict__'): size += get_size(obj.__dict__, seen) elif hasattr(obj, '__iter__') and not isinstance(obj, (str, bytes, bytearray)): size += sum([get_size(i, seen) for i in obj]) return size
讓我們試一試:
d1 = DataItem("Alex", 42, "-") print ("get_size(d1):", get_size(d1)) d2 = DataItem("Boris", 24, "In the middle of nowhere") print ("get_size(d2):", get_size(d2))
我們獲得的答案分別為 460bytes 和 484bytes,這結(jié)果似乎是真實的。
使用這個函數(shù),你可以進行一系列的實驗。例如,我想知道如果 DataItem 結(jié)構(gòu)放在列表中,數(shù)據(jù)將占用多少空間。get_size ([d1]) 函數(shù)返回 532bytes ,顯然,這與上面說的 460+ 的開銷相同。但是 get_size ([d1, d2]) 返回 863bytes ,小于以上的 460 + 484。get_size ([d1, d2, d1]) 的結(jié)果更有趣——我們得到了 871 字節(jié),只是稍微多一點,也就是說 Python 足夠聰明,不會再次為同一個對象分配內(nèi)存。
現(xiàn)在,我們來看一看問題的第二部分。
是否存在減少內(nèi)存開銷的可能呢?
是的,可以的。Python 是一個解釋器,我們可以在任何時候擴展我們的類,例如,添加一個新的字段:
d1 = DataItem("Alex", 42, "-") print ("get_size(d1):", get_size(d1)) d1.weight = 66 print ("get_size(d1):", get_size(d1))
非常好,但是如果我們不需要這個功能呢?我們能強制解釋器來指定類的列表對象使用 __slots__ 命令:
class DataItem(object): __slots__ = ['name', 'age', 'address'] def __init__(self, name, age, address): self.name = name self.age = age self.address = address
更多信息可以在文檔 (RTFM) 中找到,其中寫到 “__ dict__和__weakref__”。使用 __dict__ 節(jié)省的空間非常大”。
我們確認(rèn):是的,確實很重要,get_size (d1) 返回 …64 字節(jié),而不是 460 字節(jié),即少 7 倍。另外,創(chuàng)建對象的速度要快 20% (請參閱本文的第一個屏幕截圖)。
唉,真正使用如此大的內(nèi)存增益并不是因為其他開銷。通過簡單地添加元素,創(chuàng)建一個 100,000 的數(shù)組,并查看內(nèi)存消耗:
data = [] for p in range(100000): data.append(DataItem("Alex", 42, "middle of nowhere")) snapshot = tracemalloc.take_snapshot() top_stats = snapshot.statistics('lineno') total = sum(stat.size for stat in top_stats) print("Total allocated size: %.1f MB" % (total / (1024*1024)))
我們不使用 __slots__ 占用內(nèi)存 16.8MB,使用時占用 6.9MB。這個操作當(dāng)然不是最好的,但是確實代碼改變的最小的。(Not 7 times of course, but it’s not bad at all, considering that the code change was minimal.)
現(xiàn)在的缺點。激活 __slots__ 禁止所有元素的創(chuàng)建,包括 __dict__ ,這意味著,例如,一下代碼將結(jié)構(gòu)轉(zhuǎn)換成 json 將不運行:
def toJSON(self): return json.dumps(self.__dict__)
這個問題很容易修復(fù),它是足以產(chǎn)生 dict 編程方式,通過所有元素的循環(huán):
def toJSON(self): data = dict() for var in self.__slots__: data[var] = getattr(self, var) return json.dumps(data)
也不可能動態(tài)給這個類添加新類變量,但是在這個例子中,這并不是必需的。
今天的最后一個測試。有趣的是整個程序需要多少內(nèi)存。添加一個無限循環(huán)的程序,以便它不結(jié)束,看看 Windows 任務(wù)管理器中的內(nèi)存消耗。
沒有 __slots__:
6.9Mb 變成 27Mb … 好家伙, 畢竟, 我們節(jié)省了內(nèi)存, 27Mb 代替 70 ,對于增加一行代碼來說并不是一個壞的例子
注意:TraceMelc 調(diào)試庫使用了許多附加內(nèi)存。顯然,她為每個創(chuàng)建的對象添加了額外的元素。如果關(guān)閉它,總的內(nèi)存消耗將少得多,截屏顯示兩個選項:
如果你想節(jié)省更多的內(nèi)存呢?
這可以使用 numpy 庫,它允許您以 C 樣式創(chuàng)建結(jié)構(gòu),但是在我的例子中,它需要對代碼進行更深入的細(xì)化,并且第一種方法就足夠了。
奇怪的是在 Habré 從來沒有詳細(xì)分析使用 __slots__, 我希望本文將填補這一空缺。
“Python高級技巧之怎么用一行代碼減少一半內(nèi)存占用”的內(nèi)容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識可以關(guān)注創(chuàng)新互聯(lián)網(wǎng)站,小編將為大家輸出更多高質(zhì)量的實用文章!