电脑知识|欧美黑人一区二区三区|软件|欧美黑人一级爽快片淫片高清|系统|欧美黑人狂野猛交老妇|数据库|服务器|编程开发|网络运营|知识问答|技术教程文章 - 好吧啦网

您的位置:首頁技術文章
文章詳情頁

java代碼實現mysql分表操作(用戶行為記錄)

瀏覽:96日期:2022-08-16 15:58:32
設置項目氣動執行次方法(每天檢查一次表記錄)

public class DayInterval implements ServletContextListener{private static SimpleDateFormat simpleDateFormat=new SimpleDateFormat('yyyy-MM-dd HH:mm:ss');public static void showDayTime() {Timer dTimer = new Timer();dTimer.schedule(new TimerTask() {@Overridepublic void run() { System.out.println('每日任務執行:'+simpleDateFormat.format(new Date())); LogTableCreate logTableCreate = new LogTableCreate(); Thread thread=new Thread(logTableCreate); thread.start();}}, 1000 , 24* 60* 60 * 1000);//24* 60* 60 * 1000(第一次一秒后執行,以后每次一天后執行)}@Overridepublic void contextDestroyed(ServletContextEvent arg0) {//showDayTime();}@Overridepublic void contextInitialized(ServletContextEvent arg0) {showDayTime();}}

LogTableCreate 用來做表分表是否已經創建,如現在是9月在啟動時檢查是否存在當月表記錄,不存在則創建存在則不創建,另外檢查是否存在10月份表記錄,不存在則創建(提前創建一個也空表,以此類推)。

拷貝代碼修改createsql(建表sql),URL (數據庫地址),USER (數據庫連接用戶),PASSWORD(數據庫連接密碼)

public class LogTableCreate extends TimerTask {private static final Log log = LogFactory.getLog(LogTableCreate.class);public static final String TBASENAME='tb_log';private String createsql = ' (rn' + ' `ID` varchar(64) NOT NULL COMMENT ’主鍵id’,rn' + ' `userid` varchar(255) DEFAULT NULL COMMENT ’用戶id’,rn' + ' `username` varchar(255) DEFAULT NULL COMMENT ’用戶姓名’,rn' + ' `useridcard` varchar(255) DEFAULT NULL COMMENT ’用戶身份證號碼’,rn' + ' `realname` varchar(64) DEFAULT NULL COMMENT ’真實姓名’,rn' + ' `logintime` varchar(255) DEFAULT NULL COMMENT ’登錄時間’,rn' + ' `exittime` varchar(64) DEFAULT NULL COMMENT ’退出時間’,rn' + ' `ippath` varchar(255) DEFAULT NULL COMMENT ’ip地址’,rn' + ' `macpath` varchar(255) DEFAULT NULL COMMENT ’mac地址’,rn' + ' `usercreatedtime` varchar(255) DEFAULT NULL COMMENT ’用戶創建時間’,rn' + ' `userbusidaddress` varchar(255) DEFAULT NULL COMMENT ’用戶錢包地址’,rn' + ' `member` int(11) DEFAULT NULL COMMENT ’是否是會員’,rn' + ' `membertype` int(11) DEFAULT NULL COMMENT ’會員類型’,rn' + ' `spare1` varchar(255) DEFAULT NULL,rn' + ' `spare2` varchar(255) DEFAULT NULL,rn' + ' `spare3` varchar(255) DEFAULT NULL,rn' + ' PRIMARY KEY (`ID`)rn' + ')'; private SimpleDateFormat sdyyyy = new SimpleDateFormat('yyyy'); private SimpleDateFormat sdmm = new SimpleDateFormat('MM'); private static final String URL = ''; private static final String USER = ''; private static final String PASSWORD = ''; //得到表名 public static String gettable() { Date date = new Date(); LogTableCreate logTableCreate=new LogTableCreate();String yyyy = logTableCreate.sdyyyy.format(date);String mm = logTableCreate.sdmm.format(date);String nmm = logTableCreate.getNextMM(mm);return TBASENAME+yyyy+mm; } //得到下一個月private String getNextMM(String mm){String nmm = '';int imm = Integer.parseInt(mm);if(imm>=12){nmm = '01';}else{imm++;if(imm>9)nmm = ''+imm;elsenmm = '0'+imm;}return nmm;} @Overridepublic void run() {Date date = new Date();String yyyy = sdyyyy.format(date);String mm = sdmm.format(date);String nmm = getNextMM(mm);String nyyyy = '';if('01'.equals(nmm)){nyyyy = ''+(Integer.parseInt(yyyy)+1);}else{nyyyy = yyyy;}log.info('日志表檢查及創建:'+yyyy+' - '+mm+' | '+nyyyy+'-'+nmm);String temp = TBASENAME+yyyy+mm; //日志表名稱boolean has = false;try{has = hasTable(temp);}catch(Exception e){log.error('當前操作日志表是否存在判斷時發生錯誤:'+e.getMessage());return;}if(!has){try{createTable(temp);}catch(Exception e){log.error('當前操作日志表創建時發生錯誤:'+e.getMessage());return;}}temp = TBASENAME+nyyyy+nmm;has = false;try{has = hasTable(temp);}catch(Exception e){log.error('待用日志表是否存在判斷時發生錯誤:'+e.getMessage());return;}if(!has){try{createTable(temp);}catch(Exception e){log.error('待用日志表創建時發生錯誤:'+e.getMessage());return;}}log.info('日志表檢查及創建結束');}public boolean hasTable(String table) throws Exception{Class.forName('com.mysql.jdbc.Driver'); //2. 獲得數據庫連接 Connection conn = DriverManager.getConnection(URL, USER, PASSWORD);boolean state = false;DatabaseMetaData meta = conn.getMetaData();ResultSet set;set = meta.getTables(null, null, table.toLowerCase(), null);while (set.next()) {state = true;break;}Statement stmt = null;try{stmt = conn.createStatement();}catch(Exception e){log.error('檢查日志表是否存在時發生錯誤:'+e.getMessage());throw e;}finally{if(stmt!=null)try {stmt.close();} catch (Exception e) {//e.printStackTrace();}}conn.close();return state;}public void createTable(String table)throws Exception{try{Class.forName('com.mysql.jdbc.Driver'); //2. 獲得數據庫連接 Connection conn = DriverManager.getConnection(URL, USER, PASSWORD);String sql = 'create table '+table+createsql;Statement stmt = null;stmt = conn.createStatement();stmt.execute(sql);}catch(Exception e){log.error('初始化日志表時發生錯誤:'+e.getMessage());throw e;}}}

補充:java水平分表_Java開發分庫分表需要解決的問題及mycat是怎樣實現分庫分表的

引言

從字面上簡單理解,就是把原本存儲于一個庫的數據分塊存儲到多個庫上,把原本存儲于一個表的數據分塊存儲到多個表上。

數據庫中的數據量不一定是可控的,在未進行分庫分表的情況下,隨著時間和業務的發展,庫中的表會越來越多,表中的數據量也會越來越大,相應地,數據操作,增刪改查的開銷也會越來越大;

另外,由于無法進行分布式式部署,而一臺服務器的資源(CPU、磁盤、內存、IO等)是有限的,最終數據庫所能承載的數據量、數據處理能力都將遭遇瓶頸。

分庫分表的必要性

首先我們來了解一下為什么要做分庫分表。在我們的業務(web應用)中,關系型數據庫本身比較容易成為系統性能瓶頸,單機存儲容量、連接數、處理能力等都很有限,數據庫本身的“有狀態性”導致了它并不像Web和應用服務器那么容易擴展。那么在我們的業務中,是否真的有必要進行分庫分表,就可以從上面幾個條件來考慮。

單機儲存容量。您的數據量是否在單機儲存中碰到瓶頸。比如餓了么一天產生的用戶行為數據就有24T,那么在傳統的單機儲存中肯定是不夠的。

連接數、處理能力。在我們的用戶量達到一定程度時,特定時間的并發量又成了一個大問題,在一個高并發的網站中秒級數十萬的并發量都是很正常的。在普通的單機數據庫中秒級千次的操作問題都很大。

所以在我們進行分庫分表之前我們最好考慮一下,我們的數據量是不是夠大,并發量是不是夠大。如果您的回答是肯定的,那我們就開始做吧。

事務問題

解決事務問題目前有兩種可行的方案:分布式事務和通過應用程序與數據庫共同控制實現事務下面對兩套方案進行一個簡單的對比。

方案一:使用分布式事務

優點:交由數據庫管理,簡單有效

缺點:性能代價高,特別是shard越來越多時

方案二:由應用程序和數據庫共同控制

原理:將一個跨多個數據庫的分布式事務分拆成多個僅處 于單個數據庫上面的小事務,并通過應用程序來總控 各個小事務。

優點:性能上有優勢

缺點:需要應用程序在事務控制上做靈活設計。如果使用 了spring的事務管理,改動起來會面臨一定的困難。

分庫分表的實施策略。

分庫分表有垂直切分和水平切分兩種。

3.1 何謂垂直切分,即將表按照功能模塊、關系密切程度劃分出來,部署到不同的庫上。

例如,我們會建立定義數據庫workDB、商品數據庫payDB、用戶數據庫userDB、日志數據庫logDB等,分別用于存儲項目數據定義表、商品定義表、用戶數據表、日志數據表等。

3.2 何謂水平切分,當一個表中的數據量過大時,我們可以把該表的數據按照某種規則,例如userID散列,進行劃分,然后存儲到多個結構相同的表,和不同的庫上。

例如,我們的userDB中的用戶數據表中,每一個表的數據量都很大,就可以把userDB切分為結構相同的多個userDB:part0DB、part1DB等,再將userDB上的用戶數據表userTable,切分為很多userTable:userTable0、userTable1等,然后將這些表按照一定的規則存儲到多個userDB上。

3.3 應該使用哪一種方式來實施數據庫分庫分表,這要看數據庫中數據量的瓶頸所在,并綜合項目的業務類型進行考慮。

如果數據庫是因為表太多而造成海量數據,并且項目的各項業務邏輯劃分清晰、低耦合,那么規則簡單明了、容易實施的垂直切分必是首選。

而如果數據庫中的表并不多,但單表的數據量很大、或數據熱度很高,這種情況之下就應該選擇水平切分,水平切分比垂直切分要復雜一些,它將原本邏輯上屬于一體的數據進行了物理分割,除了在分割時要對分割的粒度做好評估,考慮數據平均和負載平均,后期也將對項目人員及應用程序產生額外的數據管理負擔。

在現實項目中,往往是這兩種情況兼而有之,這就需要做出權衡,甚至既需要垂直切分,又需要水平切分。我們的游戲項目便綜合使用了垂直與水平切分,我們首先對數據庫進行垂直切分,然后,再針對一部分表,通常是用戶數據表,進行水平切分。

mycat是怎樣實現分庫分表的?mycat里面通過定義路由規則來實現分片表(路由規則里面會定義分片字段,以及分片算法)。分片算法有多種,你所說的hash是其中一種,還有取模、按范圍分片等等。在mycat里面,會對所有傳遞的sql語句做路由處理(路由處理的依據就是表是否分片,如果分片,那么需要依據分片字段和對應的分片算法來判斷sql應該傳遞到哪一個、或者哪幾個、又或者全部節點去執行)

總結

以上就是我對Java開發分庫分表需要解決的問題及mycat是怎樣實現分庫分表的 問題及其優化總結,如有錯誤或未考慮完全的地方,望不吝賜教。

標簽: Java
相關文章:
主站蜘蛛池模板: 不锈钢反应釜,不锈钢反应釜厂家-价格-威海鑫泰化工机械有限公司 不干胶标签-不干胶贴纸-不干胶标签定制-不干胶标签印刷厂-弗雷曼纸业(苏州)有限公司 | 高压无油空压机_无油水润滑空压机_水润滑无油螺杆空压机_无油空压机厂家-科普柯超滤(广东)节能科技有限公司 | 重庆波纹管|重庆钢带管|重庆塑钢管|重庆联进管道有限公司 | 沈阳缠绕包装机厂家直销-沈阳海鹞托盘缠绕包装机价格 | 环保袋,无纺布袋,无纺布打孔袋,保温袋,环保袋定制,环保袋厂家,环雅包装-十七年环保袋定制厂家 | 欧洲MV日韩MV国产_人妻无码一区二区三区免费_少妇被 到高潮喷出白浆av_精品少妇自慰到喷水AV网站 | 英思科GTD-3000EX(美国英思科气体检测仪MX4MX6)百科-北京嘉华众信科技有限公司 | 量子管通环-自清洗过滤器-全自动反冲洗过滤器-沼河浸过滤器 | 许昌奥仕达自动化设备有限公司 | 无负压供水设备,消防稳压供水设备-淄博创辉供水设备有限公司 | 杰福伦_磁致伸缩位移传感器_线性位移传感器-意大利GEFRAN杰福伦-河南赉威液压科技有限公司 | 飞利浦LED体育场灯具-吸顶式油站灯-飞利浦LED罩棚灯-佛山嘉耀照明有限公司 | 蓄电池回收,ups电池后备电源回收,铅酸蓄电池回收,机房电源回收-广州益夫铅酸电池回收公司 | 压砖机_电动螺旋压力机_粉末成型压力机_郑州华隆机械tel_0371-60121717 | 宜兴紫砂壶知识分享 - 宜兴壶人 医用空气消毒机-医用管路消毒机-工作服消毒柜-成都三康王 | 仿古建筑设计-仿古建筑施工-仿古建筑公司-汉匠古建筑设计院 | 非甲烷总烃分析仪|环控百科| elisa试剂盒价格-酶联免疫试剂盒-猪elisa试剂盒-上海恒远生物科技有限公司 | 专业生物有机肥造粒机,粉状有机肥生产线,槽式翻堆机厂家-郑州华之强重工科技有限公司 | 磁棒电感生产厂家-电感器厂家-电感定制-贴片功率电感供应商-棒形电感生产厂家-苏州谷景电子有限公司 | 卷筒电缆-拖链电缆-特种柔性扁平电缆定制厂家「上海缆胜」 | 哈希余氯测定仪,分光光度计,ph在线监测仪,浊度测定仪,试剂-上海京灿精密机械有限公司 | 耐驰泵阀管件制造-耐驰泵阀科技(天津)有限公司 | 聚氨酯催化剂K15,延迟催化剂SA-1,叔胺延迟催化剂,DBU,二甲基哌嗪,催化剂TMR-2,-聚氨酯催化剂生产厂家 | 大数据营销公司_舆情监测软件_上海SEO公司-文军营销官网 | 中医中药治疗血小板减少-石家庄血液病肿瘤门诊部 | 冷却塔厂家_冷却塔维修_冷却塔改造_凉水塔配件填料公司- 广东康明节能空调有限公司 | 垃圾压缩设备_垃圾处理设备_智能移动式垃圾压缩设备--山东明莱环保设备有限公司 | 月嫂_保姆_育婴_催乳_母婴护理_产后康复_养老护理-吉祥到家家政 硫酸亚铁-聚合硫酸铁-除氟除磷剂-复合碳源-污水处理药剂厂家—长隆科技 | 彼得逊采泥器-定深式采泥器-电动土壤采样器-土壤样品风干机-常州索奥仪器制造有限公司 | 精密机械零件加工_CNC加工_精密加工_数控车床加工_精密机械加工_机械零部件加工厂 | 成都珞石机械 - 模温机、油温机、油加热器生产厂家 | 江苏皓越真空设备有限公司 | 超声波清洗机_细胞破碎仪_实验室超声仪器_恒温水浴-广东洁盟深那仪器 | 玻璃钢罐_玻璃钢储罐_盐酸罐厂家-河北华盛节能设备有限公司 | 南京泽朗生物科技有限公司-液体饮料代加工_果汁饮料代加工_固体饮料代加工 | 坏男孩影院-提供最新电影_动漫_综艺_电视剧_迅雷免费电影最新观看 | 杭州可当科技有限公司—流量卡_随身WiFi_AI摄像头一站式解决方案 | 粉末包装机-给袋式包装机-全自动包装机-颗粒-液体-食品-酱腌菜包装机生产线【润立机械】 | 真空泵维修保养,普发,阿尔卡特,荏原,卡西亚玛,莱宝,爱德华干式螺杆真空泵维修-东莞比其尔真空机电设备有限公司 | 聚合氯化铝价格_聚合氯化铝厂家_pac絮凝剂-唐达净水官网 |