电脑知识|欧美黑人一区二区三区|软件|欧美黑人一级爽快片淫片高清|系统|欧美黑人狂野猛交老妇|数据库|服务器|编程开发|网络运营|知识问答|技术教程文章 - 好吧啦网

您的位置:首頁技術文章
文章詳情頁

Python內存泄漏和內存溢出的解決方案

瀏覽:3日期:2022-07-10 08:38:30

一、內存泄漏

像Java程序一樣,雖然Python本身也有垃圾回收的功能,但是同樣也會產生內存泄漏的問題。對于一個用 python 實現的,長期運行的后臺服務進程來說,如果內存持續增長,那么很可能是有了“內存泄露”。

1、內存泄露的原因

對于 python 這種支持垃圾回收的語言來說,怎么還會有內存泄露? 概括來說,有以下三種原因:

所用到的用 C 語言開發的底層模塊中出現了內存泄露。 代碼中用到了全局的 list、 dict 或其它容器,不停的往這些容器中插入對象,而忘記了在使用完之后進行刪除回收 代碼中有“引用循環”,并且被循環引用的對象定義了__del__方法,就會發生內存泄露。

為什么循環引用的對象定義了__del__方法后collect就不起作用了呢?

gc模塊最常使用的方法就是gc.collect()方法,使用collect方法對循環引用的對象進行垃圾回收。如果我們在類中重載了__del__方法。__del__方法定義了在用del語句刪除對象時除了釋放內存空間以外的操作。一般而言,在使用了del語句的時候解釋器首先會看要刪除對象的引用計數,如果為0,那么就釋放內存并執行del方法。在這里,首先del語句出現時本身引用計數就不為0(因為有循環引用的存在),所以解釋器不釋放內存;再者,執行collect方法時應該會清除循環引用所產生的無效引用計數從而達到del的目的,對于這兩個循環引用對象而言,python無法判斷調用它們的del方法時會不會要用到對方那個對象,比如在進行b.del()時可能會用到b._a也就是a,如果在那之前a已經被釋放,那么就徹底GG了。為了避免這種情況,collect方法默認不對重載了del方法的循環引用對象進行回收,而它們倆的狀態也會從unreachable轉變為uncollectable。由于是uncollectable的,自然就不會被collect處理,所以就進入了garbage列表。

2、內存泄露的診斷思路

無論是哪種方式的內存泄露,最終表現的形式都是某些 python 對象在不停的增長;因此,首先是要找到這些異常的對象。

3、診斷步驟

用到的工具: gc 模塊和 objgraph 模塊

gc模塊 是Python的垃圾收集器模塊,gc使用標記清除算法回收垃圾

objgraph 是一個用于診斷內存問題的工具

1、 在服務程序的循環邏輯中,選擇出一個診斷點 2、 在診斷點,插入如下診斷語句  

import gcimport objgraph### 強制進行垃圾回收 gc.collect() ### 打印出對象數目最多的 50 個類型信息 objgraph.show_most_common_types(limit=50)

4、檢查統計信息,找到異常對象

運行加入診斷語句的服務程序,并將打印到屏幕上的統計信息重定向到日志中。運行一段時間后,就可以來分析日志,看看哪些對象在不停的增長。

比如,排查結果可能是:一個多線程程序,多個線程作為生產者,一個線程作為消費者,通過將一個 tuple 對象送入異步隊列進行通信。由于消費者的處理速度跟不上生產者的速度,又沒有進行同步, 導致異步隊列中的對象越來越多。

二、內存溢出

1、內存溢出原因

內存中加載的數據量過于龐大,如一次從數據庫取出過多數據 集合類中有對對象的引用,使用完后未清空,產生了堆積,使得JVM不能回收 代碼中存在死循環或循環產生過多重復的對象實體 使用的第三方軟件中的BUG 啟動參數內存值設定的過小

2、內存溢出的解決方案

第一步,修改JVM啟動參數,直接增加內存(-Xms,-Xmx參數一定不要忘記加)

第二步,檢查錯誤日志,查看“OutOfMemory”錯誤前是否有其 它異?;蝈e誤

第三步,對代碼進行走查和分析,找出可能發生內存溢出的位置

重點排查以下幾點:

檢查對數據庫查詢中,是否有一次獲得全部數據的查詢。一般來說,如果一次取十萬條記錄到內存,就可能引起內存溢出。這個問題比較隱蔽,在上線前,數據庫中數據較少,不容易出問題,上線后,數據庫中數據多了,一次查詢就有可能引起內存溢出。因此對于數據庫查詢盡量采用分頁的方式查詢。 檢查代碼中是否有死循環或遞歸調用。 檢查是否有大循環重復產生新對象實體。 檢查List、MAP等集合對象是否有使用完后,未清除的問題。List、MAP等集合對象會始終存有對對象的引用,使得這些對象不能被GC回收。

第四步,使用內存查看工具動態查看內存使用情況

三、內存泄漏和內存溢出的區別

內存溢出是指向JVM申請內存空間時沒有足夠的可用內存了,就會拋出OOM即內存溢出。

內存泄漏是指,向JVM申請了一塊內存空間,使用完后沒有釋放,由于沒有釋放,這塊內存區域其他類加載的時候無法申請,

同時當前類又沒有這塊內存空間的內存地址了也無法使用,相當于丟了一塊內存,這就是內存泄漏。

值得注意的是內存泄漏最終會導致內存溢出,很好理解,內存丟了很多最后當然內存不夠用了。

以上就是Python內存泄漏和內存溢出的解決方案的詳細內容,更多關于Python內存泄漏和內存溢出的資料請關注好吧啦網其它相關文章!

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 重庆LED显示屏_显示屏安装公司_重庆LED显示屏批发-彩光科技公司 重庆钣金加工厂家首页-专业定做监控电视墙_操作台 | 西安微信朋友圈广告投放_微信朋友圈推广_西安度娘网络科技有限公司 | 诺冠气动元件,诺冠电磁阀,海隆防爆阀,norgren气缸-山东锦隆自动化科技有限公司 | 康明斯发电机,上柴柴油发电机,玉柴柴油发电机组_海南重康电力官网 | 众品地板网-地板品牌招商_地板装修设计_地板门户的首选网络媒体。 | 上海办公室装修,写字楼装修—启鸣装饰设计工程有限公司 | 水厂污泥地磅|污泥处理地磅厂家|地磅无人值守称重系统升级改造|地磅自动称重系统维修-河南成辉电子科技有限公司 | 精密模具制造,注塑加工,吹塑和吹瓶加工,EPS泡沫包装生产 - 济南兴田塑胶有限公司 | 临沂招聘网_人才市场_招聘信息_求职招聘找工作请认准【马头商标】 | 热闷罐-高温罐-钢渣热闷罐-山东鑫泰鑫智能热闷罐厂家 | 扫地车厂家-山西洗地机-太原电动扫地车「大同朔州吕梁晋中忻州长治晋城洗地机」山西锦力环保科技有限公司 | 深圳宣传片制作_产品视频制作_深圳3D动画制作公司_深圳短视频拍摄-深圳市西典映画传媒有限公司 | 深圳宣传片制作_产品视频制作_深圳3D动画制作公司_深圳短视频拍摄-深圳市西典映画传媒有限公司 | 焊缝跟踪系统_激光位移传感器_激光焊缝跟踪传感器-创想智控 | 上海物流公司,上海货运公司,上海物流专线-优骐物流公司 | 专业深孔加工_东莞深孔钻加工_东莞深孔钻_东莞深孔加工_模具深孔钻加工厂-东莞市超耀实业有限公司 | 胶泥瓷砖胶,轻质粉刷石膏,嵌缝石膏厂家,腻子粉批发,永康家德兴,永康市家德兴建材厂 | 车载加油机品牌_ 柴油加油机厂家 | 杰恒蠕动泵-蠕动泵专业厂家-19年专注蠕动泵 | 【黄页88网】-B2B电子商务平台,b2b平台免费发布信息网 | 杭州用友|用友软件|用友财务软件|用友ERP系统--杭州协友软件官网 | 工业硝酸钠,硝酸钠厂家-淄博「文海工贸」| 波纹补偿器_不锈钢波纹补偿器_巩义市润达管道设备制造有限公司 | 农产品溯源系统_农产品质量安全追溯系统_溯源系统 | CE认证_FCC认证_CCC认证_MFI认证_UN38.3认证-微测检测 CNAS实验室 | 上海乾拓贸易有限公司-日本SMC电磁阀_德国FESTO电磁阀_德国FESTO气缸 | 青州开防盗门锁-配汽车芯片钥匙-保险箱钥匙-吉祥修锁店 | 环球周刊网| 塑料异型材_PVC异型材_封边条生产厂家_PC灯罩_防撞扶手_医院扶手价格_东莞市怡美塑胶制品有限公司 | 楼承板设备-楼承板成型机-免浇筑楼承板机器厂家-捡来 | 南溪在线-南溪招聘找工作、找房子、找对象,南溪综合生活信息门户! | SMC-ASCO-CKD气缸-FESTO-MAC电磁阀-上海天筹自动化设备官网 | 东莞螺杆空压机_永磁变频空压机_节能空压机_空压机工厂批发_深圳螺杆空压机_广州螺杆空压机_东莞空压机_空压机批发_东莞空压机工厂批发_东莞市文颖设备科技有限公司 | 空气能暖气片,暖气片厂家,山东暖气片,临沂暖气片-临沂永超暖通设备有限公司 | 造价工程师网,考试时间查询,报名入口信息-网站首页 | 超声波清洗机-超声波清洗设备定制生产厂家 - 深圳市冠博科技实业有限公司 | 风淋室生产厂家报价_传递窗|送风口|臭氧机|FFU-山东盛之源净化设备 | 压接机|高精度压接机|手动压接机|昆明可耐特科技有限公司[官网] 胶泥瓷砖胶,轻质粉刷石膏,嵌缝石膏厂家,腻子粉批发,永康家德兴,永康市家德兴建材厂 | 耐火砖厂家,异形耐火砖-山东瑞耐耐火材料厂 | 奇酷教育-Python培训|UI培训|WEB大前端培训|Unity3D培训|HTML5培训|人工智能培训|JAVA开发的教育品牌 | 新型游乐设备,360大摆锤游乐设备「诚信厂家」-山东方鑫游乐设备 新能源汽车电池软连接,铜铝复合膜柔性连接,电力母排-容发智能科技(无锡)有限公司 |