国产精品电影_久久视频免费_欧美日韩国产激情_成年人视频免费在线播放_日本久久亚洲电影_久久都是精品_66av99_九色精品美女在线_蜜臀a∨国产成人精品_冲田杏梨av在线_欧美精品在线一区二区三区_麻豆mv在线看

最新開源:高效的 Python 通用對象池化庫

開發 后端
在系統進行對象的生成與銷毀過程中會大量的增加內存的消耗,同時對象的銷毀往往會留下殘留的信息,這樣將會伴隨內存泄露的問題存在。

在程序設計中,創建物體模塊主要是通過生成對象來實現。當對象使用結束后,則會成為不再需要的模塊進行銷毀。

而在系統進行對象的生成與銷毀過程中會大量的增加內存的消耗,同時對象的銷毀往往會留下殘留的信息,這樣將會伴隨內存泄露的問題存在。

在實際的程序開發過程中,往往需要生成和銷毀大量重復的對象,這就使得內存泄漏產生的信息過多而無法被系統回收,從而占用系統更多的內存,而且生成物體過多時無法確定被什么模塊實例化實現,對系統造成負擔,不利于管理及后續操作,長此以往最終將導致程序變慢甚至崩潰。

對象池是存放了一批已經創建好的對象的池,它是一個用來維護對象的結構。當程序需要使用對象的時候,可以直接從池中獲取該對象,而不是實例化一個新的對象。

在程序設計過程中,大部分人關注的往往只是對象的使用和效果的實現,實際上創建和使用之間還有一個初始化的過程,不過系統會將初始化和創建這兩步結合在了一起,這樣使得設計者忽略了系統創建和銷毀對象這一過程對系統的影響。

通常來講,一個對象的創建和銷毀過程開銷很小,可以忽略不計,但是如果一個程序中涉及到一種對象多次創建,并且創建時間比較長,那就會能很明顯的感覺到這部分的消耗所造成的系統速度受限。

對象池可以看作是減少 GC 壓力的首選方法,同時也是最簡單的方法。

對象池模式主要適用于以下應用場景:

  •  資源受限的場景。比如,不需要可伸縮性的環境(CPU、內存等物理資源有限),CPU性能不夠強勁,內存比較緊張,垃圾收集,內存抖動會造成比較大的影響,需要提高內存管理效率, 響應性比吞吐量更為重要。
  •  在內存中數量受限的對象。
  •  創建成本高的對象。
  •  大量的存活期短且初始化成本低的對象池化,以降低內存分配和再分配成本,避免內存碎片。
  •  Python 的這樣的動態語言,GC 是依靠引用技術來來保證對象不會過早的回收,某些場景下可能出現雖然創建了但是沒人使用的空閑期,導致對象被回收了。可以委托給對象池來保管。

Pond 介紹

Pond 是一個 Python 中高效的通用對象池,具有性能好、內存占用小、命中率高的特點。基于近似統計的根據頻率自動回收的能力,能夠自動調整每個對象池的空閑對象數量。

因為目前 Python 目前沒有比較好的、測試用例完備、代碼注釋完備、文檔完善的對象池化庫,同時目前的主流對象池庫也沒有比較智能的自動回收機制。

Pond 可能是 Python 中第一個社區公開的測試用例完整,覆蓋率 90% 以上、代碼注釋完備、文檔完善的對象池化庫。

Pond 靈感來自于 Apache Commons Pool、Netty Recycler、HikariCP、Caffeine,集合了多家的優點。

其次 Pond 通過使用近似計數的方式以極小的內存空間統計每個對象池的使用頻率,并且自動回收。

流量較為隨機平均的情況下,默認策略和權重可以降低 48.85% 內存占用,借取命中率 100%。

流量較為符合 2/8 定律的情況下,默認策略和權重可以降低 45.7% 內存占用, 借取命中率 100%。

設計概述

Pond 主要由 FactoryDict、Counter、PooledObjectTree 三部分以及一個單獨的回收線程構成。

FactoryDict

使用 Pond 需要實現對象工廠 PooledObjectFactory,PooledObjectFactory 提供對象的創建、初始化、銷毀、驗證等操作,由 Pond 調用。

所以為了讓對象池支持存放完全不同的對象,Pond 使用了一個字典來記錄每個工廠類的名稱和自己實現的工廠類的實例化對象。

每個 PooledObjectFactory 應該具備創建對象、銷毀對象、驗證對象是否還可用、重置對象四個功能。

比較特別的是 Pond 支持自動重置對象,因為某些場景下可能會存在對象中要先賦值進行傳遞,傳遞完又被回收的情況,為了避免污染建議這種場景下無比實現這個功能。

Counter

Counter 中保存了一個近似計數器。

PooledObjectTree

PooleedObjectTree 是個字典,每個 key 對應著一個先進先出的隊列,這些隊列都是線程安全的。

每個隊列中保存著多個 PooleedObject。PooledObejct 保存了創建時間、最后借出的時間以及實際需要的對象。

線程安全

Pond 的借用和回收都是線程安全的。Python 的 queue 模塊提供了一個適用于多線程編程的先進先出(FIFO)數據結構。它可以用來安全地在生產者和消費者線程之間傳遞消息或其他數據。

鎖是調用者來處理的,所有多個線程能夠安全且容易的使用同樣的 Queue 實例工作。而 Pond 的借用和回收都是在操作 queue,所以基本可以認為是線程安全的。

借出機制

在使用 Pond 借出一個對象時,會先檢查想要借出的對象的種類是否已經在 PooledObjectTree 存在,如果存在會檢查這個對象的對象池是否為空,如果為空會創建一個新的。

如果對象池中有多余的對象,會利用 queue 彈出一個對象并驗證這個對象是否可用。如果不可用會自動調用所屬的 Factory 清理銷毀該對象,同時清理它在 Python 中的 GC 計數,讓它更快被 GC 回收,不斷拿取下一個直至有可用的。

如果這個對象可用,則會直接返回。當然無論是從對象池中取出對象還是新創建了一個對象,都會利用 Counter 增加一個計數。

回收機制

回收一個對象時會判斷目標對象池存不存在,如果存在會檢查對象池是否已經滿了,滿了的話會自動銷毀要歸還的這個對象。

然后會檢查這個對象是否已經被借出太長時間,如果超過了配置的最長時間同樣會被清理掉。

自動回收

自動回收時每隔一段時間,默認是 300 s,就會執行一次。自動清理不經常使用的對象池中的對象。

使用說明

你可以先安裝 Pond 的庫并且在你的項目中引用。

pip install pondpond
from pond import Pond, PooledObjectFactory, PooledObject

首先你需要聲明一個你想要放入的類型的對象的工廠類,比如下面的例子我們希望池化的對象是 Dog,所以我們先聲明一個 PooledDogFactory 類,并且實現 PooledObjectFactory。

class Dog:
name: str
validate_result:bool = True
class PooledDogFactory(PooledObjectFactory):
def creatInstantce(self) -> PooledObject:
dog = Dog()
dog.name = "puppy"
return PooledObject(dog)
def destroy(self, pooled_object: PooledObject):
del pooled_object
def reset(self, pooled_object: PooledObject) -> PooledObject:
pooled_object.keeped_object.name = "puppy"
return pooled_object
def validate(self, pooled_object: PooledObject) -> bool:
return pooled_object.keeped_object.validate_result

接著你需要創建 Pond 的對象:

pond = Pond(borrowed_timeout=2,
time_between_eviction_runs=-1,
thread_daemon=True,
eviction_weight=0.8)

Pond 可以傳遞一些參數進去,分別代表:

borrowed_timeout :單位為秒,借出對象的最長期限,超過期限的對象歸還時會自動銷毀不會放入對象池。

time_between_eviction_runs :單位為秒,自動回收的間隔時間。

thread_daemon :守護線程,如果為 True,自動回收的線程會隨著主線程關閉而關閉。

eviction_weight :自動回收時權重,會將這個權重與最大使用頻次想乘,使用頻次小于這個值的對象池中的對象都會進入清理步驟。

實例化工廠類:

factory = PooledDogFactory(pooled_maxsize=10, least_one=False)

所有繼承了 PooledObjectFactory 都會自帶構造函數,可以傳遞 pooled_maxsize 和 least_one 兩個參數。

pooled_maxsize:這個工廠類生成出的對象的對象池的最大能放置的數量。

least_one:如果為 True,在進入自動清理時,這個工廠類生成出的對象的對象池會至少保留一個對象。

向 Pond 注冊這個工廠對象,默認會使用 factory 的類名作為 PooledObjectTree 的 key :

pond.register(factory)

當然你也可以自定義它的名字,名字會作為 PooledObjectTree 的 key:

pond.register(factory, name="PuppyFactory")

注冊成功后,Pond 會自動根據 factory 中設置的 pooled_maxsize 自動開始創建對象直至填滿這個對象池。

借用和歸還對象:

pooled_object: PooledObject = pond.borrow(factory)
dog: Dog = pooled_object.use()
pond.recycle(pooled_object, factory)

當然你可以用名字來進行借用和歸還:

pooled_object: PooledObject = pond.borrow(name="PuppyFactory")
dog: Dog = pooled_object.use()
pond.recycle(pooled_object, name="PuppyFactory")

完全清理一個對象池:

pond.clear(factory)

通過名字清理一個對象池:

pond.clear(name="PuppyFactory")

正常情況下,你只需要使用上面的這些方法,生成對象和回收對象都是全自動的。

責任編輯:龐桂玉 來源: Python專欄
相關推薦

2024-04-07 11:44:53

MagistralaIoT物聯網平臺

2019-12-26 15:31:17

騰訊框架開源

2024-02-22 09:30:15

Gemma開源模型谷歌

2025-03-04 09:00:00

2023-03-24 09:17:04

微服務架構谷歌

2014-05-13 10:12:17

iOS開發開源類庫

2024-10-09 09:42:26

2024-04-19 07:55:57

Llama 3模型人工智能開源

2024-03-11 09:31:46

開源神經網絡架構

2016-10-17 15:04:02

開源DistributedApache Kafk

2018-07-12 14:34:05

2015-09-23 09:57:00

Google壓縮算法Brotli

2023-10-19 08:06:51

Radius開源平臺

2022-06-20 09:45:48

Python開源可視化庫

2025-01-21 11:53:53

2021-03-06 14:22:39

池化對象類庫

2012-05-14 09:42:06

微軟Windows 8

2018-04-20 08:48:46

蘋果數據開發者

2014-03-21 10:45:33

FacebookHack

2024-07-31 09:30:00

點贊
收藏

51CTO技術棧公眾號

久久精品视频亚洲| 国产成人综合精品在线| qvod激情图片| 国产精品一区久久久久| 国产日韩欧美在线播放| 老司机精品视频在线播放| 亚洲色在线视频| av成人 com a| 亚洲精品黄网在线观看| 不卡av免费观看| 日韩欧美卡一卡二| 超碰在线观看免费| 日韩欧美中文字幕公布| free性欧美hd另类精品| 欧美一区二区精品在线| 超碰在线免费播放| 精品不卡在线视频| а√天堂中文在线资源8| 精品久久久久久久久久久久包黑料 | 国产精品久久午夜| 国产成人久久777777| 久久一日本道色综合| av动漫在线观看| 国产色产综合产在线视频| 久久人妻精品白浆国产| 欧美国产精品久久| 午夜激情影院| 欧美综合亚洲图片综合区| 国产美女视频一区二区三区| 色婷婷综合久久久中文一区二区| 国产在线视频福利| 欧美精品一二三四| 天天色天天射天天综合网| 欧美精品一区二区精品网| 亚洲精华液一区二区三区| 亚洲欧洲成视频免费观看| 97精品资源在线观看| 久久久中精品2020中文| 99九九热只有国产精品| 狠狠色狠狠色综合人人| 九一九一国产精品| 久久综合伊人77777麻豆最新章节| 亚洲一区二区三区四区不卡| h视频在线观看免费| 亚洲另类激情图| 一区二区三区四区高清视频| 91精品久久久久| 日韩成人一区二区| 无码播放一区二区三区| 亚洲男人的天堂av| 巨大荫蒂视频欧美大片| 亚洲欧美www| 丝袜av一区| 国产亚洲欧美一区二区| 国产经典欧美精品| 天天操夜夜干| 精品久久人人做人人爱| 一区二区三区在线免费看| 91pron在线| 成人三级在线视频| 在线观看免费网站| 亚洲人午夜精品| 久久久综合色| 精品免费久久久久久久| 亚洲午夜在线视频| 欧美xxxxxx| 成人高清视频观看www| 美国av一区二区| 成年人免费网站| 亚洲丁香婷深爱综合| 国产探花一区二区| 偷拍盗摄高潮叫床对白清晰| 亚洲精品日韩一| 粉嫩一区二区| 114国产精品久久免费观看| 成人国产在线观看| 91精品专区| 欧美亚洲国产视频| 国产精品一区二区久久不卡| 色网站在线免费观看| 日韩亚洲国产中文字幕| 亚洲精一区二区三区| 久草福利资源站| 亚洲香蕉在线观看| 精品av久久久久电影| www.91av| 色悠悠久久88| 视频一区二区中文字幕| 91网在线观看| 欧美成aaa人片免费看| 日本欧美一区二区三区| 三级在线播放| 97国产精品免费视频| 国产一区二区三区观看| 在线日本视频| 成人国产精品久久久久久亚洲| 久久尤物电影视频在线观看| 18aaaa精品欧美大片h| 亚洲bt欧美bt日本bt| 国产精品国产三级国产普通话99| 成人免费观看在线观看| 精品国产乱码久久久久久郑州公司| 亚洲精品国产无套在线观| 久久国产精品美女| 粉嫩av一区二区三区天美传媒| 欧美一区二区三区影视| 亚洲视频观看| 永久免费在线观看| 欧美自拍视频在线观看| 国产视频一区二区在线观看| 久久女人天堂| 中国丰满熟妇xxxx性| 亚洲精品成人网| 日本午夜一本久久久综合| 风间由美一区| 99久久精品免费看国产四区| 亚洲国产成人高清精品| 在线播放一区二区精品视频| av免费观看网| y97精品国产97久久久久久| 国产九九视频一区二区三区| 日本一级理论片在线大全| 亚洲综合中文字幕在线观看| 亚洲国产精品一区二区www在线| 亚洲小说图片视频| 免费成年网站| 国产精品一区二区三区免费视频| 亚洲色图在线视频| 九九热线有精品视频99| 高清hd写真福利在线播放| 欧美一级电影免费在线观看| 国产精品久久久久久久久免费樱桃| 亚洲精品一二三**| 免费成人看片| 国产精品视频一| 色婷婷一区二区三区四区| 欧美日韩国产亚洲一区| wwwxxx在线观看| 日本成人黄色| 亚洲人成网站999久久久综合| 国产成人精品午夜视频免费| 国产一区二区三区四区五区3d | 91原色影院| 日韩**中文字幕毛片| 一区二区三区精品在线观看| 精品久久中文| 国产在线一二三区| 区一区二区三区中文字幕| 精品无人区乱码1区2区3区在线| 成人av资源网站| 97se亚洲国产一区二区三区| 二个人看的毛片| 97超级碰碰| 91精品国产综合久久香蕉麻豆| 免费不卡在线观看| 成人在线视频区| 一个人看的免费视频色| 69堂成人精品视频免费| 日韩一区二区三区观看| 国产福利精品导航| 精品视频自拍| www.国产精品.com| 国产91沈先生在线播放| 久久全国免费视频| 色一情一伦一子一伦一区| 日本午夜精品一区二区三区电影| 成人福利一区二区| 五月伊人六月| 视频在线一区二区三区| 欧美成人精品三级在线观看| 玉米视频成人免费看| 校园春色综合网| 国产一区二区在线观| 在线免费观看av网站| 伊人久久大香线蕉成人综合网| 久久精品国产成人| 午夜精品在线看| 狠狠色综合日日| 免费成人网www| 成人在线免费观看黄色| 超碰av在线免费观看| 国产精品一区二区三区四区五区| 亚洲人成在线观| 亚洲高清免费一级二级三级| 九一久久久久久| av伊人久久| 日本在线中文字幕一区二区三区 | 国产精品久久久久久久一区探花| 欧美日韩成人高清| 久久精品欧美日韩| 亚洲片区在线| 国产精品宾馆| av在线加勒比| 影音先锋另类| 日韩精品 欧美| 豆国产97在线| 国外成人免费在线播放| 日韩一区二区麻豆国产| 亚洲黄色免费网站| 粉嫩av一区二区三区粉嫩|