电脑知识|欧美黑人一区二区三区|软件|欧美黑人一级爽快片淫片高清|系统|欧美黑人狂野猛交老妇|数据库|服务器|编程开发|网络运营|知识问答|技术教程文章 - 好吧啦网

您的位置:首頁技術文章
文章詳情頁

MySQL 線上日志庫遷移實例

瀏覽:10日期:2023-10-04 10:15:30

說說最近的一個案例吧,線上阿里云RDS上的一個游戲日志庫最近出現了一點問題,隨著游戲人數的增加,在線日志庫的數據量越來越大,最新的日志庫都已經到50G大小了,在線變更的時間非常長。

之前之所以沒有發現,是因為之前一直沒有進行過日志庫的變更,但是隨著業務的深入,需要增加一些游戲屬性,要對之前的日志庫進行變更,這樣一來,長時間的維護窗口讓業務方和DBA都望而卻步,日志優化迫在眉睫。

首先看日志庫的情況:

1、日志庫中數據量大于5000w的大表有5張;

2、這5張表開量前每個月的數據量大概在2000w左右,開量后會更多;

3、有2個表的索引大小已經超過數據文件大小

詢問了業務方和運營對這些表的要求,具體如下:

1、保留最近這3個月的數據,其他的數據可以進行流轉,避免影響線上業務的性能。

2、3個月之前的數據流轉到一個本地庫中,可以支持查詢即可,查詢速度不能過于慢,分鐘級別的可以接受。

3、日志庫在遷移的過程中,能夠容忍幾分鐘的表數據丟失,對數據的同步實時性要求不是很高

4、線上的日志庫需要支持用戶活躍度等統計

5、不希望執行分庫分表,有很多查詢近幾個月的SQL操作,表之間存在一定的耦合性,分表之后不利于關聯操作

基于上面的分析,結合實際情況,初步設想的方案是:

1、對線上數據庫game_log中的表進行rename操作,然后將原來的表重新創建出來,這個過程中不是連續的,可能會丟失幾秒鐘的數據。具體的操作如下:

#第一步rename table game_log.table to game_log_bak.table;#第二步,獲取表結構,其中重要的是auto_increment的值,#保證后續導入三個月內數據的時候不會發生沖突show create table game_log_bak.tableG#第三步在game_log庫中重新創建第二步的表結構

2、將rename過后的game_log_bak庫中的數據流轉到本地的離線數據庫中,該數據庫采用infobright存儲引擎,這樣能夠支持離線數據的快速查詢

MySQL 線上日志庫遷移實例

3、備份并清理線上表3個月之外的數據,大概是40G,并將線上的game_log_bak數據庫中3個月以內的數據(大概10G)重新灌入game_log數據庫中,這樣結構就變成了:

MySQL 線上日志庫遷移實例

4、刪除game_log_bak庫,并搭建一個只讀從庫,實時的從主庫上同步game_log庫的信息,如下:

MySQL 線上日志庫遷移實例

5、從本地的只讀從庫中,像本地的infobright數據庫中同步數據,同步的方法可以選用dataX工具,像下面這樣:

MySQL 線上日志庫遷移實例

6、設置定時任務,按照一定的周期清理線上的過期數據,確保線上只保留最近3個月的數據,不會對rds的磁盤存儲空間產生壓力。

這個方法中,目前看來存在下面幾個問題:

1、經常性的清理線上數據,這些數據占用的表空間不能被立即回收,可能會造成數據表的碎片問題。

2、后續如果游戲的量級上來之后,使用這個問題可能還是會有問題,屆時可以適當調整日志表的清理周期,如果數據量過大,可以考慮其他的方案來處理。

回過頭來分析,表的設計上還是存在一定的問題,日志表中記錄的應該只是流水數據,盡量不能出現關聯查詢的情況,或者說可以提前評估數據量,然后使用季度表或者月表來處理這種的大量的日志情況,這樣在清理和維護的時候可能就方便的多。

以上就是MySQL 線上日志庫遷移實例的詳細內容,更多關于MySQL 線上日志庫遷移的資料請關注好吧啦網其它相關文章!

標簽: MySQL 數據庫
相關文章:
主站蜘蛛池模板: 广州食堂承包_广州团餐配送_广州堂食餐饮服务公司 - 旺记餐饮 | 酒万铺-酒水招商-酒水代理| 播音主持培训-中影人教育播音主持学苑「官网」-中国艺考界的贵族学校 | 密度电子天平-内校-外校电子天平-沈阳龙腾电子有限公司 | 兰州牛肉面加盟,兰州牛肉拉面加盟-京穆兰牛肉面 | 济南菜鸟驿站广告|青岛快递车车体|社区媒体-抖音|墙体广告-山东揽胜广告传媒有限公司 | 珠光砂保温板-一体化保温板-有釉面发泡陶瓷保温板-杭州一体化建筑材料 | 金属切削液-脱水防锈油-电火花机油-抗磨液压油-深圳市雨辰宏业科技发展有限公司 | 嘉兴恒升声级计-湖南衡仪声级计-杭州爱华多功能声级计-上海邦沃仪器设备有限公司 | 祝融环境-地源热泵多恒系统高新技术企业,舒适生活环境缔造者! | 单螺旋速冻机-双螺旋-流态化-隧道式-食品速冻机厂家-广州冰泉制冷 | 尼龙PA610树脂,尼龙PA612树脂,尼龙PA1010树脂,透明尼龙-谷骐科技【官网】 | 宁夏档案密集柜,智能密集柜,电动手摇密集柜-盛隆柜业宁夏档案密集柜厂家 | 冷却塔厂家_冷却塔维修_冷却塔改造_凉水塔配件填料公司- 广东康明节能空调有限公司 | 手持式线材张力计-套帽式风量罩-深圳市欧亚精密仪器有限公司 | 多米诺-多米诺世界纪录团队-多米诺世界-多米诺团队培训-多米诺公关活动-多米诺创意广告-多米诺大型表演-多米诺专业赛事 | 搪瓷反应釜厂家,淄博搪瓷反应釜-淄博卓耀 | 聚合甘油__盐城市飞龙油脂有限公司 | 小型手持气象站-空气负氧离子监测站-多要素微气象传感器-山东天合环境科技有限公司 | 手持式3d激光扫描仪-便携式三维立体扫描仪-北京福禄克斯 | 北京普辉律师事务所官网_北京律师24小时免费咨询|法律咨询 | 交流伺服电机|直流伺服|伺服驱动器|伺服电机-深圳市华科星电气有限公司 | 浙江华锤电器有限公司_地磅称重设备_防作弊地磅_浙江地磅售后维修_无人值守扫码过磅系统_浙江源头地磅厂家_浙江工厂直营地磅 | 金环宇|金环宇电线|金环宇电缆|金环宇电线电缆|深圳市金环宇电线电缆有限公司|金环宇电缆集团 | 优考试_免费在线考试系统_培训考试系统_题库系统_组卷答题系统_匡优考试 | 登车桥动力单元-非标液压泵站-非标液压系统-深圳市三好科技有限公司 | 杭州公司变更法人-代理记账收费价格-公司注销代办_杭州福道财务管理咨询有限公司 | 上海办公室装修,办公楼装修设计,办公空间设计,企业展厅设计_写艺装饰公司 | 温州中研白癜风专科_温州治疗白癜风_温州治疗白癜风医院哪家好_温州哪里治疗白癜风 | 深圳市简易检测技术有限公司 | 塑胶跑道_学校塑胶跑道_塑胶球场_运动场材料厂家_中国塑胶跑道十大生产厂家_混合型塑胶跑道_透气型塑胶跑道-广东绿晨体育设施有限公司 | 耐酸泵,耐酸泵厂家-淄博华舜耐腐蚀真空泵 | 办公室装修_上海办公室设计装修_时尚办公新主张-后街印象 | 驾驶人在线_专业学车门户网站 | 临时厕所租赁_玻璃钢厕所租赁_蹲式|坐式厕所出租-北京慧海通 | 西安展台设计搭建_西安活动策划公司_西安会议会场布置_西安展厅设计西安旭阳展览展示 | 桂林腻子粉_内墙外墙抗裂砂浆腻子粉推荐广西鑫达涂料厂家供应 | 湖南自考_湖南自学考试 | PCB设计,PCB抄板,电路板打样,PCBA加工-深圳市宏力捷电子有限公司 | 振动时效_振动时效仪_超声波冲击设备-济南驰奥机电设备有限公司 北京宣传片拍摄_产品宣传片拍摄_宣传片制作公司-现像传媒 | 北京征地律师,征地拆迁律师,专业拆迁律师,北京拆迁律师,征地纠纷律师,征地诉讼律师,征地拆迁补偿,拆迁律师 - 北京凯诺律师事务所 |