电脑知识|欧美黑人一区二区三区|软件|欧美黑人一级爽快片淫片高清|系统|欧美黑人狂野猛交老妇|数据库|服务器|编程开发|网络运营|知识问答|技术教程文章 - 好吧啦网

您的位置:首頁技術文章
文章詳情頁

java 實現增量同步和自定義同步的操作

瀏覽:112日期:2022-08-17 17:26:18
場景

公司有多個系統。 需要從某個系統拿數據。初始化拿一次,然后每天增量同步。

因為邏輯關系有些復雜,且涉及到多表,所以純sql不太方便。

項目之前的mybatis寫死了, sysdate-1的數據。

如何全量同步老辦法

可以讓某系統調整modifyDate,本系統通過定時任務同步這些數據。

缺點: 按規定不允許改數據,別人也不樂意改。

較好的辦法

調整mybatis,傳入參數變為自定義方法,這樣就可以同步任意時刻的數據。

一般有2種方法:

傳入游標方法: sysdate-n

直接傳入日期字符串: modifyDate between ‘888’ and ‘999’

然后增加request請求,手動調用同步方法。

補充:java數據同步,增量更新表中記錄數據

背景:

我方系統中的數據從第三方系統同步過來。雙方通過json格式交互,數據格式如下:

{'resInfo':{'code':'0','msg':'查詢成功'},'columns':'requestId,jobNumber,requestDate,department,businessDays,cfd,mdd,startTime,endTime,reason,remark','data':[{'requestId'='11925', 'jobNumber'='5721', 'requestDate'='2019-05-06', 'department'='57', 'businessDays'='21', 'cfd'='上海', 'mdd'='南京', 'startTime'='2019-05-06 13:36', 'endTime'='2019-05-07 13:36', 'reason'='', 'remark'=''}]}增量更新處理思路:

1、調用第三方接口,獲取數據,做解析,得到一個List1。

2、查詢數據庫出差表,得到另一個List2。

3、兩個list做比較,獲取不同的元素列表。

list2-list1:要刪除的記錄。

list1-list2 :要新增的記錄。

主要實現代碼:

String result='調用接口返回的json串'; //參見交互的json數據格式

ResultObject<BusinessTrip> resultObject = JSON.parseObject(result, new TypeReference<ResultObject<BusinessTrip>>() { }); List<BusinessTrip> list = resultObject.getData(); if (!CollectionUtils.isEmpty(list)) {//查詢數據庫記錄條數List<BusinessTrip> list2 = businessService.queryBusinessTripList(); Map<String, List<BusinessTrip>> map = ListUtils.getMap(list, list2);//刪除出差List<BusinessTrip> newRemoveList = map.get(ListUtils.LIST2_REMOVE_LIST1);if (!CollectionUtils.isEmpty(newRemoveList)) { List<String> newChangeList2 = newRemoveList.stream().map(item -> item.getRequestId()).collect(Collectors.toList()); int removeCount = businessService.batchDeleteBusinessTrip(newChangeList2); log.error('刪除出差記錄個數,removeCount=' + removeCount);}//新增出差List<BusinessTrip> newAddList = map.get(ListUtils.LIST1_REMOVE_LIST2);if (!CollectionUtils.isEmpty(newAddList)) { int addCount = businessService.batchInsertBusinessTrip(newAddList); log.error('新增出差記錄個數,addCount=' + addCount);} } else {log.error('同步出差申請結束,沒有查詢到出差數據。'); }

出差實體類BusinessTrip.java

import lombok.Data;/** * 出差 */@Datapublic class BusinessTrip { /** * 請求ID */ private String requestId; /** * 工號 */ private String jobNumber; /** * 申請日期 */ private String requestDate; /** * 申請人所在部門id */ private String department; /** * 出差天數 */ private String businessDays; /** * 出發地 */ private String cfd; /** * 目的地 */ private String mdd; /** * 出差開始時間 */ private String startTime; /** * 出差結束時間 */ private String endTime; /** * 出差事由 */ private String reason; /** * 備注 */ private String remark;}

ResultObject.java

/** * @Name: ResultObject * @Desc: 基類泛型 * @Author: Administrator * @Date: 2019-08-28 18:32 * {'resInfo':{'code':'0','msg':'查詢成功'},'columns':'requestId,jobNumber,requestDate,department,businessDays,cfd,mdd,startTime,endTime,reason,remark','data':[{'requestId'='11925', 'jobNumber'='5721', 'requestDate'='2019-05-06', 'department'='57', 'businessDays'='21', 'cfd'='上海', 'mdd'='南京', 'startTime'='2019-05-06 13:36', 'endTime'='2019-05-07 13:36', 'reason'='', 'remark'=''}]} */@Datapublic class ResultObject<T> { private String columns; private ResInfo resInfo; private List<T> data;}

ResInfo.java

import lombok.Data;/** * @Name: ResInfo * @Desc * @Author: Administrator * @Date: 2019-08-28 18:38 * {'code':'0','msg':'查詢成功'} */@Datapublic class ResInfo { private String code; private String msg;}

ListUtils.java工具類:

import java.util.ArrayList;import java.util.HashMap;import java.util.List;import java.util.Map;import java.util.stream.Collectors;/** * @Name: ListUtils * @Desc * @Author: Administrator * @Date: 2019-08-29 14:03 */public class ListUtils { /** * 交集 */ public static final String LIST1_AND_LIST2 = '0'; /** * 差集(list1 - list2) */ public static final String LIST1_REMOVE_LIST2 = '1'; /** * 差集(list2 - list1) */ public static final String LIST2_REMOVE_LIST1 = '2'; public static <T> Map<String, List<T>> getMap(List<T> list1, List<T> list2) { //交集 List<T> intersection = list1.stream().filter(item -> list2.contains(item)).collect(Collectors.toList()); //差集(list1 - list2) List<T> reduce1 = list1.stream().filter(item -> !list2.contains(item)).collect(Collectors.toList()); //差集(list2 - list1) List<T> reduce2 = list2.stream().filter(item -> !list1.contains(item)).collect(Collectors.toList()); Map<String, List<T>> map = new HashMap<>(); map.put(LIST1_AND_LIST2, intersection); map.put(LIST1_REMOVE_LIST2, reduce1); map.put(LIST2_REMOVE_LIST1, reduce2); return map; }// public static void main(String[] args) {// List<String> list1 = new ArrayList<>();// list1.add('1111');// list1.add('2222');// list1.add('3333');// list1.add('4444');//// List<String> list2 = new ArrayList<>();// list2.add('3333');// list2.add('4444');// list2.add('5555');// list2.add('6666');//// Map<String, List<String>> map = getMap(list1, list2);// System.out.println(map);// }}實際處理過程中出現的一個問題是:

接口返回的字段中,不是每個字段都有值。在第一次插入數據后,再查詢時,字段得到的值是null,不是空串。

操作中出現一個問題:

接口中拿到的數據是這樣:

BusinessTrip(requestId=11925, jobNumber=5721, requestDate=2019-05-06, department=57, businessDays=21, cfd=上海, mdd=南京, startTime=2019-05-06 13:36, endTime=2019-05-07 13:36, reason=, remark=)

就是通過mybatis查詢出的數據,得到記錄格式是這樣。

BusinessTrip(requestId=11925, jobNumber=5721, requestDate=2019-05-06, department=57, businessDays=21, cfd=上海, mdd=南京, startTime=2019-05-06 13:36, endTime=2019-05-07 13:36, reason=null, remark=null)

兩個格式差別是,部分字段,比如reason字段,一個是空串,一個是null,導致List中元素在做比較的時候,總是不相等。

以上為個人經驗,希望能給大家一個參考,也希望大家多多支持好吧啦網。如有錯誤或未考慮完全的地方,望不吝賜教。

標簽: Java
相關文章:
主站蜘蛛池模板: 亮点云建站-网站建设制作平台 | 消防泵-XBD单级卧式/立式消防泵-上海塑泉泵阀(集团)有限公司 | 板框压滤机-隔膜压滤机-厢式压滤机生产厂家-禹州市君工机械设备有限公司 | 仓储笼_金属箱租赁_循环包装_铁网箱_蝴蝶笼租赁_酷龙仓储笼租赁 测试治具|过炉治具|过锡炉治具|工装夹具|测试夹具|允睿自动化设备 | 馋嘴餐饮网_餐饮加盟店火爆好项目_餐饮连锁品牌加盟指南创业平台 | 杭州代理记账费用-公司注销需要多久-公司变更监事_杭州福道财务管理咨询有限公司 | 全自动变压器变比组别测试仪-手持式直流电阻测试仪-上海来扬电气 | 柔软云母板-硬质-水位计云母片组件-首页-武汉长丰云母绝缘材料有限公司 | 铣床|万能铣床|立式铣床|数控铣床|山东滕州万友机床有限公司 | 实验室装修_实验室设计_实验室规划设计- 上海广建净化工程公司 | 砂磨机_立式纳米砂磨机_实验室砂磨机-广州儒佳化工设备厂家 | 铸铁平台,大理石平台专业生产厂家_河北-北重机械 | 高压负荷开关-苏州雷尔沃电器有限公司 | 精密机械零件加工_CNC加工_精密加工_数控车床加工_精密机械加工_机械零部件加工厂 | 上海租车公司_上海包车_奔驰租赁_上海商务租车_上海谐焕租车 | 泰国试管婴儿_泰国第三代试管婴儿_泰国试管婴儿费用/多少钱_孕泰来 | 道达尔润滑油-食品级润滑油-道达尔导热油-合成导热油,深圳道达尔代理商合-深圳浩方正大官网 | 防水套管|柔性防水套管|伸缩器|伸缩接头|传力接头-河南伟创管道 防水套管_柔性防水套管_刚性防水套管-巩义市润达管道设备制造有限公司 | 玻璃钢型材-玻璃钢风管-玻璃钢管道,生产厂家-[江苏欧升玻璃钢制造有限公司] | 【铜排折弯机,钢丝折弯成型机,汽车发泡钢丝折弯机,线材折弯机厂家,线材成型机,铁线折弯机】贝朗折弯机厂家_东莞市贝朗自动化设备有限公司 | 专业的压球机生产线及解决方案厂家-河南腾达机械厂 | 办公室装修_上海办公室设计装修_时尚办公新主张-后街印象 | 成都软件开发_OA|ERP|CRM|管理系统定制开发_成都码邻蜀科技 | 河南彩印编织袋,郑州饲料编织袋定制,肥料编织袋加工厂-盛军塑业 河南凯邦机械制造有限公司 | 顺辉瓷砖-大国品牌-中国顺辉| MES系统-WMS系统-MES定制开发-制造执行MES解决方案-罗浮云计算 | 湖南印刷厂|长沙印刷公司|画册印刷|挂历印刷|台历印刷|杂志印刷-乐成印刷 | 筒瓦厂家-仿古瓦-寺庙-古建琉璃瓦-宜兴市古典园林建筑陶瓷厂有限公司 | 杜康白酒加盟_杜康酒代理_杜康酒招商加盟官网_杜康酒厂加盟总代理—杜康酒神全国运营中心 | 水轮机密封网 | 水轮机密封产品研发生产厂家 | 【铜排折弯机,钢丝折弯成型机,汽车发泡钢丝折弯机,线材折弯机厂家,线材成型机,铁线折弯机】贝朗折弯机厂家_东莞市贝朗自动化设备有限公司 | 法兰连接型电磁流量计-蒸汽孔板节流装置流量计-北京凯安达仪器仪表有限公司 | 针焰试验仪,灼热丝试验仪,漏电起痕试验仪,水平垂直燃烧试验仪 - 苏州亚诺天下仪器有限公司 | 废气处理设备-工业除尘器-RTO-RCO-蓄热式焚烧炉厂家-江苏天达环保设备有限公司 | 呼末二氧化碳|ETCO2模块采样管_气体干燥管_气体过滤器-湖南纳雄医疗器械有限公司 | 微动开关厂家-东莞市德沃电子科技有限公司 | 压滤机-洗沙泥浆处理-压泥机-山东创新华一环境工程有限公司 | 在线浊度仪_悬浮物污泥浓度计_超声波泥位计_污泥界面仪_泥水界面仪-无锡蓝拓仪表科技有限公司 | 北京百度网站优化|北京网站建设公司-百谷网络科技 | 欧美日韩国产一区二区三区不_久久久久国产精品无码不卡_亚洲欧洲美洲无码精品AV_精品一区美女视频_日韩黄色性爱一级视频_日本五十路人妻斩_国产99视频免费精品是看4_亚洲中文字幕无码一二三四区_国产小萍萍挤奶喷奶水_亚洲另类精品无码在线一区 | 吹田功率计-长创耐压测试仪-深圳市新朗普电子科技有限公司 |