电脑知识|欧美黑人一区二区三区|软件|欧美黑人一级爽快片淫片高清|系统|欧美黑人狂野猛交老妇|数据库|服务器|编程开发|网络运营|知识问答|技术教程文章 - 好吧啦网

您的位置:首頁技術文章
文章詳情頁

詳解Oracle的sqlldr理論

瀏覽:144日期:2023-09-12 20:47:51

SQL*Loader是oracle的高速批量數據加載工具。這是一個非常有用的工具,可用于從多種平面文件格式向Oracle數據庫中加載數據。SQLLDR可以在極短的時間內加載數量龐大的數據。

它有 兩種操作模式:

傳統路徑(conventional path):SQLLDR 會利用SQL插入為我們加載數據。

直接路徑(direct path):采用這種模式,SQLLDR不使用SQL;而是直接格式化數據庫塊,而繞過整個SQL引擎和UNDO生成,同時還可能避開REDO生成。要在一個沒有任何數據的庫中充分加載數據,最快的方法就是采用并行直接路徑加載。

常規路徑裝載使用SQL INSERT語句和內存中的鍵數組緩存(bond array buffers)將數據裝載到Oracle數據庫的表中。

這個過程與其他進程競爭SGA內部的內存資源。如果數據庫已經有支持多個并發處理進程的開銷,常規路徑裝載會降低裝載的性能。

使用常規路徑裝載的另外一個開銷是裝載進程必須搜索數據庫,以查找被裝載表的部分填充塊,并試圖填充這些塊。這對日常的事務處理是非常有效的,但是它是常規路徑裝載的一個額外開銷。

最好或有時必須使用常規路徑裝載方法,而不能使用直接路徑裝載的情形:

1、如果被裝載的表是被索引的并且被并發訪問的,或者如果要對表進行插入或刪除,必須使用常規路徑裝載。

2、當在控制文件中使用SQL函數時,必須使用常規路徑裝載。當使用直接路徑裝載時,SQL函數將不適用。

3、當裝載的表是一個簇表時。

4、當裝載少量記錄到一個大型索引表,或當表具有引用完整性或檢查約束時。

5、當裝載工作是通過SQL * Net或Net8在不同的平臺上進行時,為使用直接路徑裝載,兩個節點必須屬于同一個計算機家族并且使用同樣的字符集。

不需要使用SQL INSERT語句和鍵數組緩存,直接路徑裝載格式化輸入數據到Oracle數據塊并將它們直接寫入數據庫中。注意直接路徑裝載總是在表的最高水位之上插入數據,這種方式消除了用于搜索部分填充塊的時間。

SQLLDR是一個命令工具,并非一個API,不能從PL/SQL調用。

SQL*Loader具有很多功能,包括以下能力:

可以從不同文件類型的多個輸入數據文件中加載數據;

輸入記錄可以是定長的或變長的記錄;

可以在同一次運行中加載多個表,還可以邏輯地將選定的記錄載入到每個表中;

在輸入數據載入表之前,可以對其使用SQL函數;

多個物理記錄可以被編譯成一個邏輯記錄,同樣,SQL可以提取一條物理記錄并把它作為多個邏輯記錄加載;

支持嵌套、嵌套表、VARRAYS和LOBS(包括BLOGCLOBNLOBBFILE)。

SQL*Loader 組件:

0.控制文件

控制文件中包含描述輸入數據的信息(如輸入數據的布局、數據類型等),另外還包含有關目標表的信息,控制文件甚至還可以包含要加載的數據。

1. SQL*Loader輸入數據:

SQL *Loader能夠接收多種不同格式的數據文件。文件可以存儲在磁盤或磁帶上,或記錄本身可以被嵌套到控制文件中。記錄格式可以是定長的或變長的,定長記錄是指這樣的記錄:每條記錄具有相同的固定長度,并且每條記錄中的數據域也具有相同的固定長度、數據類型和位置

2.SQL*Loader輸出:

(1)LOAD DATA

(2)INFILE *

(3)INTO TABLE DEPT

(4)FIELDS TERMINATED BY ‘,’

(5)(DEPTNO,DNAME,LOC)

(6)BEGINDATA

(7)10,Sales,Virginia

(8)20,Accounting,Virginia

(9)30,Consulting,Virginia

(10)40,Finance,Virginia

LOAD DATA:這會告訴SQLLDR要做什么(在這個例子中,則指示要加載數據)。SQLLDR還可以執行CONTINUE_LOAD,也就是繼續加載。只有在繼續一個多表直接路徑加載時才能使用后面這個選項。

INFILE * :這會告訴SQLLDR所要加載的數據實際上包含在控制文件中,如第6-10行所示。也可以指定包含數據的另一個文件的文件名。如果愿意可以使用一個命令行參數覆蓋這個INFILE語句。[命令行選項會覆蓋控制文件設置]。

INTO TABLE DEPT:這告訴SQLLDR要把數據加載到哪個表中。

FILEDS TERMINATED BY ‘,’:告訴SQLLDR數據的形式應該是用逗號分隔的值。

(DEPTNO,DNAME,LOC):告訴SQLLDR所要加載的列,這些列在輸入數據中的順序以及數據類型。這是指輸入流中數據的數據類型,而不是數據庫中的數據類型,在這個例子中,列的數據類型默認為CHAR(255)。

BEGINDATA:告訴SQLLDR你已經完成對輸入數據的描述,后面的行(第7-10行)是要加載到DEPT表的具體數據。

要使用以上的控制文件,建立一個空的DEPT表:

CREATE TABLE DEPT(DEPTNO NUMBER(2) CONSTRAINT DEPT_PK PRIMARY KEY,DNAME VARCHAR2(14),LOC VARCHAR2(13));

并運行以下命令:

Sqlldr userid=/ control=demo1.ctl

表裝載的方法:

INSERT 這是缺省方法。該方法假設在數據裝載前表是空的,如果在表中有記錄,SQLLDR退出,并報:SQLLDR-601: FOR INSERT OPTION,TABLE MUST BE EMPTY,ERROR ON TABLE DEPT

APPEND這種方法允許記錄被添加到數據庫表中,而且不影響已經存在的記錄

REPLACE 這種方法首先刪除表中已經存在的記錄,然后開始裝載新的記錄。注意,當老記錄被刪除時,表上的任意刪除觸發器將被觸發

TRUNCATE 這種方法在裝載數據前,使用SQL命令TRUNCATE 刪除老的記錄,因為去除了觸發器的觸發并且沒有創建回滾,所以這種方法要比REPLACE快得多。為了使用這種方法約束必須被禁止,并且要授予特定的權限

如何加載定界數據?

定界數據,(delimited data)即用某個特殊字符分隔的數據。

Example:

FIELDS TERMINATED BY ‘,’ OPTIONALLY ENCLOSED BY ‘”’

上面例子指定用逗號分隔數據字段,每個字段可以用雙引號括起。

TERMINATED BY X’9’(使用16進制格式的制表符;采用ASCII時,制表符為9)

TERMINATED BY WHITESPACE

如何加載固定格式數據?

通常會有一個由某個外部系統生成的平面文件,而且這是一個定長文件,其中包含著固定位置的數據(POSITIONAL DATA).要加載定寬的固定位置數據,將會在控制文件中使用POSITION關鍵字:

LOAD DATAINFILE *INTO TABLE DEPTREPLACE(DEPTNO position(1:2),DNAME position (3:16),LOC position (17:29))BEGINDATA10ACCOUNTIN Virginia ,USA

可以使用相對偏移量。

DEPTNO position(1:2),DNAME position(*:16)

表示DNAME 從3-16個字符。

如何加載日期?

只需要控制文件中DATE數據類型,并指定要使用的日期掩碼。這個日期掩碼與數據庫中的TO_CHAR和TO_DATE中使用的日期掩碼是一樣。

如何使用函數加載數據?

只需要將函數加到控制文件中

(DNAME “UPPER(:dname)”)

TRAILING NULLCOLS 會導致綁定變量成為NULL,如果輸入記錄中不存在某一列的數據,SQLLDR會為該列綁定一個NULL值。

下面是增加SQL*Loader性能的一些補充技巧:

1)使用定位域而不要使用分隔域,分隔域要求裝載器搜索數據以查找分隔符。定位域比較快,因為裝載器只需要做簡單的指針運算。

2)為終止域指定最大長度,使每個捆綁數組更為有效地插入。

3)預分配足夠的存儲空間。當數據被裝載時,表中需要更多的空間, Oracle分配更多的區間以容納數據,如果在數據裝載期間頻繁地做這項操作,處理的開銷將非常大。在裝載之前計算或估算存儲空間需求能夠讓你預先創建必要的存儲空間。

4)如果可能,在控制文件中盡量避免使用NULLIF和DEFAULTIF子句。這兩個子句對于被裝載的每條記錄都會引起列運算。

5)分割數據文件,并行運行常規路徑裝載。

6)通過使用命令行參數ROWS,減少提交次數。

7)避免不必要的字符集轉換,確保客戶端的NLS_LANG環境與服務器端的相同。

8)只要可能,盡量使用直接路徑裝載方法。

9)當使用直接路徑裝載方法時,為表的最大索引預先排序并使用SORTED INDEXES子句。

10)當使用直接路徑裝載方法時,盡量使用并行直接路徑選項。

11)在直接路徑裝載期間,盡可能少使用重做日志。有三種不同級別的控制實現這點:

禁止數據庫歸檔;

在控制文件中使用關鍵字UNRECOVERABLE;

使用NOLOG屬性修改表和/或索引。

直接路徑并行加載的格式樣例:

/opt/app/oracle/product/10.2.0/bin/sqlldr APS/APS control=/home/oracle/APS_LOAD/ctl/AP_CONTRACT.CTLdirect=true parallel=true LOG=/home/oracle/APS_LOAD/log/$yesterday/AP_CONTRACT_$yesterday.log bad=/home/oracle/APS_LOAD/bad/DUE_BILL_$yesterday.bad rows=10000 readsize=20000000 bindsize=20000000 DISCARD=/home/oracle/APS_LOAD/bad/discard_ts.dis

到此這篇關于詳解Oracle的sqlldr理論的文章就介紹到這了,更多相關Oracle的sqlldr內容請搜索好吧啦網以前的文章或繼續瀏覽下面的相關文章希望大家以后多多支持好吧啦網!

標簽: Oracle 數據庫
主站蜘蛛池模板: 碳化硅,氮化硅,冰晶石,绢云母,氟化铝,白刚玉,棕刚玉,石墨,铝粉,铁粉,金属硅粉,金属铝粉,氧化铝粉,硅微粉,蓝晶石,红柱石,莫来石,粉煤灰,三聚磷酸钠,六偏磷酸钠,硫酸镁-皓泉新材料 | 行业分析:提及郑州火车站附近真有 特殊按摩 ?2025实地踩坑指南 新手如何避坑不踩雷 | 渣油泵,KCB齿轮泵,不锈钢齿轮泵,重油泵,煤焦油泵,泊头市泰邦泵阀制造有限公司 | 青岛球场围网,青岛车间隔离网,青岛机器人围栏,青岛水源地围网,青岛围网,青岛隔离栅-青岛晟腾金属制品有限公司 | 赛默飞Thermo veritiproPCR仪|ProFlex3 x 32PCR系统|Countess3细胞计数仪|371|3111二氧化碳培养箱|Mirco17R|Mirco21R离心机|仟诺生物 | 卷筒电缆-拖链电缆-特种柔性扁平电缆定制厂家「上海缆胜」 | 电梯装饰-北京万达中意电梯装饰有限公司| 翅片管散热器价格_钢制暖气片报价_钢制板式散热器厂家「河北冀春暖气片有限公司」 | 外贸网站建设-外贸网站设计制作开发公司-外贸独立站建设【企术】 | RTO换向阀_VOC高温阀门_加热炉切断阀_双偏心软密封蝶阀_煤气蝶阀_提升阀-湖北霍科德阀门有限公司 | 模型公司_模型制作_沙盘模型报价-中国模型网 | 假肢-假肢价格-假肢厂家-河南假肢-郑州市力康假肢矫形器有限公司 | 沈阳液压泵_沈阳液压阀_沈阳液压站-沈阳海德太科液压设备有限公司 | 防勒索软件_数据防泄密_Trellix(原McAfee)核心代理商_Trellix(原Fireeye)售后-广州文智信息科技有限公司 | 广州工业氧气-工业氩气-工业氮气-二氧化碳-广州市番禺区得力气体经营部 | 酒吧霸屏软件_酒吧霸屏系统,酒吧微上墙,夜场霸屏软件,酒吧点歌软件,酒吧互动游戏,酒吧大屏幕软件系统下载 | 杭州火蝠电商_京东代运营_拼多多全托管代运营【天猫代运营】 | 合肥注册公司|合肥代办营业执照、2024注册公司流程 | 浙江红酒库-冰雕库-气调库-茶叶库安装-医药疫苗冷库-食品物流恒温恒湿车间-杭州领顺实业有限公司 | 展厅装修公司|企业展厅设计|展厅制作|展厅搭建—广州展厅装饰公司 | 东莞办公家具厂家直销-美鑫【免费3D效果图】全国办公桌/会议桌定制 | 除湿机|工业除湿机|抽湿器|大型地下室车间仓库吊顶防爆除湿机|抽湿烘干房|新风除湿机|调温/降温除湿机|恒温恒湿机|加湿机-杭州川田电器有限公司 | 江苏皓越真空设备有限公司| 捷码低代码平台 - 3D数字孪生_大数据可视化开发平台「免费体验」 | 原子吸收设备-国产分光光度计-光谱分光光度计-上海光谱仪器有限公司 | 无刷电机_直流无刷电机_行星减速机-佛山市藤尺机电设备有限公司 无菌检查集菌仪,微生物限度仪器-苏州长留仪器百科 | 小型UV打印机-UV平板打印机-大型uv打印机-UV打印机源头厂家 |松普集团 | 不干胶标签-不干胶贴纸-不干胶标签定制-不干胶标签印刷厂-弗雷曼纸业(苏州)有限公司 | 骨灰存放架|骨灰盒寄存架|骨灰架厂家|智慧殡葬|公墓陵园管理系统|网上祭奠|告别厅智能化-厦门慈愿科技 | 北京成考网-北京成人高考网 | 强效碱性清洗剂-实验室中性清洗剂-食品级高纯氮气发生器-上海润榕科学器材有限公司 | 泥沙分离_泥沙分离设备_泥砂分离机_洛阳隆中重工机械有限公司 | 泰安办公家具-泰安派格办公用品有限公司 | 桁架机器人_桁架机械手_上下料机械手_数控车床机械手-苏州清智科技装备制造有限公司 | 污水提升器,污水提升泵,地下室排水,增压泵,雨水泵,智能供排水控制器-上海智流泵业有限公司 | 高铝轻质保温砖_刚玉莫来石砖厂家_轻质耐火砖价格 | 微波萃取合成仪-电热消解器价格-北京安合美诚科学仪器有限公司 | 防水套管|柔性防水套管|伸缩器|伸缩接头|传力接头-河南伟创管道 防水套管_柔性防水套管_刚性防水套管-巩义市润达管道设备制造有限公司 | 申江储气罐厂家,储气罐批发价格,储气罐规格-上海申江压力容器有限公司(厂) | 河南包装袋厂家_河南真空袋批发价格_河南服装袋定制-恒源达包装制品 | 学校用栓剂模,玻璃瓶轧盖钳,小型安瓿熔封机,实验室安瓿熔封机-长沙中亚制药设备有限公司 |