电脑知识|欧美黑人一区二区三区|软件|欧美黑人一级爽快片淫片高清|系统|欧美黑人狂野猛交老妇|数据库|服务器|编程开发|网络运营|知识问答|技术教程文章 - 好吧啦网

您的位置:首頁技術(shù)文章
文章詳情頁

mysql 大表批量刪除大量數(shù)據(jù)的實(shí)現(xiàn)方法

瀏覽:5日期:2023-10-05 18:09:01

問題參考自:https://www.zhihu.com/question/440066129/answer/1685329456 ,mysql中,一張表里有3億數(shù)據(jù),未分表,其中一個(gè)字段是企業(yè)類型,企業(yè)類型是一般企業(yè)和個(gè)體戶,個(gè)體戶的數(shù)據(jù)量差不多占50%,根據(jù)條件把個(gè)體戶的行都刪掉。請(qǐng)問如何操作?答案為個(gè)人原創(chuàng)

假設(shè)表的引擎是 Innodb, MySQL 5.7+

刪除一條記錄,首先鎖住這條記錄,數(shù)據(jù)原有的被廢棄,記錄頭發(fā)生變化,主要是打上了刪除標(biāo)記。也就是原有的數(shù)據(jù) deleted_flag 變成 1,代表數(shù)據(jù)被刪除。但是數(shù)據(jù)沒有被清空,在新一行數(shù)據(jù)大小小于這一行的時(shí)候,可能會(huì)占用這一行。這樣其實(shí)就是存儲(chǔ)碎片。

之后,相關(guān)數(shù)據(jù)的索引需要更新,清除這些數(shù)據(jù)。并且,會(huì)產(chǎn)生對(duì)應(yīng)的 binlog 與 redolog 日志。如果 delete 的數(shù)據(jù)是大量的數(shù)據(jù),則會(huì):

如果不加 limit 則會(huì)由于需要更新大量數(shù)據(jù),從而索引失效變成全掃描導(dǎo)致鎖表,同時(shí)由于修改大量的索引,產(chǎn)生大量的日志,導(dǎo)致這個(gè)更新會(huì)有很長(zhǎng)時(shí)間,鎖表鎖很長(zhǎng)時(shí)間,期間這個(gè)表無法處理線上業(yè)務(wù)。 由于產(chǎn)生了大量 binlog 導(dǎo)致主從同步壓力變大 由于標(biāo)記刪除產(chǎn)生了大量的存儲(chǔ)碎片。由于 MySQL 是按頁加載數(shù)據(jù),這些存儲(chǔ)碎片不僅大量增加了隨機(jī)讀取的次數(shù),并且讓頁命中率降低,導(dǎo)致頁交換增多。 由于產(chǎn)生了大量日志,我們可以看到這張表的占用空間大大增高。解決方案

我們很容易想到,在 delete 后加上 limit 限制控制其數(shù)量,這個(gè)數(shù)量讓他會(huì)走索引,從而不會(huì)鎖整個(gè)表。

但是,存儲(chǔ)碎片,主從同步,占用空間的問題并沒有解決。可以在刪除完成后,通過如下語句,重建表:

alter table 你的表 engine=InnoDB, ALGORITHM=INPLACE, LOCK=NONE;

注意這句話其實(shí)就是重建你的表,雖然你的表的引擎已經(jīng)是 innodb 了,加上后面的, ALGORITHM=INPLACE, LOCK=NONE 可以不用鎖表就重建表。

還有一種方案是,新建一張同樣結(jié)構(gòu)的表,在原有表上加上觸發(fā)器:

create trigger person_trigger_update AFTER UPDATE on 原有表 for each row begin set @x = 'trigger UPDATE';Replace into 新表 SELECT * from 原有表 where 新表.id = 原有表.id;END IF;end;

這樣可以保證線上業(yè)務(wù)有新數(shù)據(jù)會(huì)同步。之后,將所有企業(yè)類型的數(shù)據(jù),插入新表,同時(shí)如果已存在則證明發(fā)生了更新同步就不插入。個(gè)體戶數(shù)據(jù)由于業(yè)務(wù)變化,并不在這個(gè)表上更新,所以這樣通過了無表鎖同步實(shí)現(xiàn)了大表的數(shù)據(jù)清理

到此這篇關(guān)于mysql 大表批量刪除大量數(shù)據(jù)的實(shí)現(xiàn)方法的文章就介紹到這了,更多相關(guān)mysql 大表批量刪除內(nèi)容請(qǐng)搜索好吧啦網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持好吧啦網(wǎng)!

標(biāo)簽: MySQL 數(shù)據(jù)庫
相關(guān)文章:
主站蜘蛛池模板: 带压开孔_带压堵漏_带压封堵-菏泽金升管道工程有限公司 | 二维运动混料机,加热型混料机,干粉混料机-南京腾阳干燥设备厂 | 一礼通 (www.yilitong.com)-企业礼品解决方案一站式服务平台 | 翅片管散热器价格_钢制暖气片报价_钢制板式散热器厂家「河北冀春暖气片有限公司」 | 无锡门窗-系统门窗-阳光房-封阳台-断桥铝门窗厂[窗致美] | 2025福建平潭岛旅游攻略|蓝眼泪,景点,住宿攻略-趣平潭网 | 外贸资讯网 - 洞悉全球贸易,把握市场先机 | 学习安徽网| 营养师网,营养师考试时间,报名入口—网站首页 | 光照全温振荡器(智能型)-恒隆仪器 | 透平油真空滤油机-变压器油板框滤油机-滤油车-华之源过滤设备 | 云杂志网-学术期刊-首页 | 依维柯自动挡房车,自行式国产改装房车,小型房车价格,中国十大房车品牌_南京拓锐斯特房车 - 南京拓锐斯特房车 | 盐城网络公司_盐城网站优化_盐城网站建设_盐城市启晨网络科技有限公司 | 玻璃钢格栅盖板|玻璃钢盖板|玻璃钢格栅板|树篦子-长沙川皖玻璃钢制品有限公司 | 氟塑料磁力泵-不锈钢离心泵-耐腐蚀化工泵厂家「皖金泵阀」 | 合肥汽车充电桩_安徽充电桩_电动交流充电桩厂家_安徽科帝新能源科技有限公司 | 杜甫仪器官网|实验室平行反应器|升降水浴锅|台式低温循环泵 | 无锡网站建设-做网站-建网站-网页设计制作-阿凡达建站公司 | 天津次氯酸钠酸钙溶液-天津氢氧化钠厂家-天津市辅仁化工有限公司 | 作文导航网_作文之家_满分作文_优秀作文_作文大全_作文素材_最新作文分享发布平台 | 耐磨陶瓷,耐磨陶瓷管道_厂家-淄博拓创陶瓷科技 | 金环宇|金环宇电线|金环宇电缆|金环宇电线电缆|深圳市金环宇电线电缆有限公司|金环宇电缆集团 | 高压管道冲洗清洗机_液压剪叉式升降机平台厂家-林君机电 | 奇酷教育-Python培训|UI培训|WEB大前端培训|Unity3D培训|HTML5培训|人工智能培训|JAVA开发的教育品牌 | 德国UST优斯特氢气检漏仪-德国舒赐乙烷检测仪-北京泽钏 | 小型UV打印机-UV平板打印机-大型uv打印机-UV打印机源头厂家 |松普集团 | 数码听觉统合训练系统-儿童感觉-早期言语评估与训练系统-北京鑫泰盛世科技发展有限公司 | 刚性-柔性防水套管-橡胶伸缩接头-波纹管补偿器-启腾供水材料有限公司 | 食品机械专用传感器-落料放大器-低价接近开关-菲德自控技术(天津)有限公司 | 日本SMC气缸接头-速度控制阀-日本三菱伺服电机-苏州禾力自动化科技有限公司 | 西宁装修_西宁装修公司-西宁业之峰装饰-青海业之峰墅级装饰设计公司【官网】 | 高效节能电机_伺服主轴电机_铜转子电机_交流感应伺服电机_图片_型号_江苏智马科技有限公司 | 手术室净化厂家_成都实验室装修公司_无尘车间施工单位_洁净室工程建设团队-四川华锐16年行业经验 | 合肥网带炉_安徽箱式炉_钟罩炉-合肥品炙装备科技有限公司 | 密封无忧网 _ 专业的密封产品行业信息网 | ISO9001认证咨询_iso9001企业认证代理机构_14001|18001|16949|50430认证-艾世欧认证网 | 时代北利离心机,实验室离心机,医用离心机,低速离心机DT5-2,美国SKC采样泵-上海京工实业有限公司 工业电炉,台车式电炉_厂家-淄博申华工业电炉有限公司 | 台式低速离心机-脱泡离心机-菌种摇床-常州市万丰仪器制造有限公司 | 不干胶标签-不干胶贴纸-不干胶标签定制-不干胶标签印刷厂-弗雷曼纸业(苏州)有限公司 | SMN-1/SMN-A ABB抽屉开关柜触头夹紧力检测仪-SMN-B/SMN-C-上海徐吉 |