當前位置：首頁 > 运维知识 > 数据库 >内容正文

数据库

mysql导入数据load data infile用法整理

發(fā)布時間：2023/12/10 数据库 35 豆豆

生活随笔收集整理的這篇文章主要介紹了 mysql导入数据load data infile用法整理小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

有時候我們需要將大量數(shù)據(jù)批量寫入數(shù)據(jù)庫，直接使用程序語言和Sql寫入往往很耗時間，其中有一種方案就是使用MySql Load data infile導入文件的形式導入數(shù)據(jù)，這樣可大大縮短數(shù)據(jù)導入時間。

假如是從MySql客戶端調(diào)用，將客戶端的文件導入，則需要使用 load local data infile.

LOAD DATA INFILE 語句以很高的速度從一個文本文件中讀取行到一個表中。文件名必須是一個文字字符串。

1，開啟load local data infile.

假如是Linux下編譯安裝，

如果使用源碼編譯的MySQL，在configure的時候，需要添加參數(shù)：--enable-local-infile 客戶端和服務器端都需要，否則不能使用local參數(shù)。

./configure --prefix=/usr/local/mysql --enable-local-infile

make install

若是其它系統(tǒng)，可在配置文件中配置：

在MySql 配置文件My.ini文件中下面項中加入local-infile=1：

add:

[mysqld]

local-infile=1

[mysql]

local-infile=1

客戶端和服務端度需要開啟，對于客戶端也可以在執(zhí)行命中加上--local-infile=1 參數(shù)：

mysql --local-infile=1 -uroot -pyourpwd yourdbname

如:

如：/usr/local/mysql/bin/mysql -uroot -h192.168.0.2 -proot databaseName --local-infile=1 -e "LOAD DATA LOCAL INFILE 'data.txt' into table test(name,sex) "

2, 編碼格式注意：

若包含中文，請保證導入文件、連接字符串、導入表都是UTF-8編碼。

3，執(zhí)行

在使用LOAD DATA到MySQL的時候，有2種情況：

（1）在遠程客戶端（需要添加選項：--local-infile=1）導入遠程客戶端文本到MySQL，需指定LOCAL（默認就是ignore）,加ignore選項會放棄數(shù)據(jù)，加replace選項會更新數(shù)據(jù)，都不會出現(xiàn)唯一性約束問題。

[zhuxu@xentest9-vm1 tmp]$mysql -uzhuxu -pzhuxu test -h10.254.5.151 --local-infile=1--show-warnings -v -v -v \

> -e "LOAD DATA LOCAL INFILE '/tmp/2.txt' INTO TABLE tmp_loaddata FIELDS TERMINATED BY ','";

（2）在本地服務器導入本地服務器文本到MySQL，不指定LOACL，出現(xiàn)唯一性約束沖突，會失敗回滾，數(shù)據(jù)導入不進去，這個時候就需要加ignore或者replace來導入數(shù)據(jù)。

mysql>LOAD DATA INFILE '/home/zhuxu/1.txt' INTO TABLE tmp_loaddata FIELDS TERMINATED BY ',';

4，事務分析

步驟是這樣的：

1，開啟binlog，設置binlog_format=row，執(zhí)行reset master；

2，load data infile xxxxx；

3，查看binlog。

可以看出，總共是一個事務，也通過mysqlbinlog查看了binary log，確認中間是被拆分成了多個insert形式。所以load data infile基本上是這樣執(zhí)行的：

begin

insert into values(),(),(),()...

...

commit

當然，由于row格式的binlog的語句并不是很明顯的記錄成多值insert語句，它的格式時

insert into table

set @1=

set @2=

...

set @n=

insert into table

set @1=

set @2=

...

set @n=

insert ...

;注意這里有一個分號‘;’，其實前面這一部分就相當于前面說的多值insert形式

然后接下來就重復上面的那種格式，也就是一個load data infile 拆成了多個多值insert語句。

前面說的是row格式記錄的load data infile，那么對于statement是怎么樣的呢？statement格式的binlog，它是這樣記錄的，binlog中還是同樣的load data語句，但是在記錄load data 語句之前，它會先將你master上這個load data 使用到的csv格式的文件拆分成多個部分，然后傳到slave上（在mysql的tmpdir下），當然傳這些csv格式的文件也會記錄binlog event，然后最后真正的SQL語句形式就是load data local infile '/tmp/SQL_X_Y'這種形式（這里假設mysql的tmpdir是默認的/tmp），實際上這樣很危險，比如tmpdir空間不夠，那就會報錯。不過從效率上來說兩者可能差不多，因為statement格式的binlog也是拆分成了多個語句。

附：

（1）load data infile 和 load local data infile 在 innodb和MyISAM 同步方面的區(qū)別

對MyISAM引擎：

(1)對master服務器進行 ‘load’ 操作，

(2)在master上所操作的load.txt文件，會同步傳輸?shù)絪lave上，并在tmp_dir 目錄下生成 load.txt文件

master服務器插入了多少，就傳給slave多少

(3)當master上的load操作完成后，傳給slave的文件也結(jié)束時，

即：在slave上生成完整的 load.txt文件

此時，slave才開始從 load.txt 讀取數(shù)據(jù)，并將數(shù)據(jù)插入到本地的表中

對innodb引擎：

(1)主數(shù)據(jù)庫進行 ‘Load’ 操作

(2)主數(shù)據(jù)庫操作完成后，才開始向slave傳輸 load.txt文件，

slave接受文件，并在 tmp_dir 目錄下生成 load.txt 文件

接受并生成完整的load.txt 后，才開始讀取該文件，并將數(shù)據(jù)插入到本地表中

異常情況處理：

1）對MyISAM引擎

當數(shù)據(jù)庫執(zhí)行l(wèi)oad,此時如果中斷：

Slave端將報錯，例如：

####################################################################

Query partially completed on the master (error on master: 1053) and was aborted.

There is a chance that your master is inconsistent at this point.

If you are sure that your master is ok,

run this query manually on the slave and then restart the slave with SET GLOBAL SQL_SLAVE_SKIP_COUNTER=1;

START SLAVE; . Query: 'LOAD DATA INFILE '/tmp/SQL_LOAD-2-1-3.data' IGNORE INTO TABLE `test_1`

FIELDS TERMINATED BY ',' ENCLOSED BY '' ESCAPED BY '\\' LINES TERMINATED BY '\n' (`id`, `name`, `address`)'

###########################################################################################

按照提示，在slave服務器上：

(1) 使用提示的load命令，將主服務器傳輸過來的load文件，在從服務器上執(zhí)行

(2)讓從服務器跳過錯誤。set global sql_slave_skip_counter=1;

(3)開啟同步

2）對Innodb引擎

由于innodb是事務型的，所以會把load文件的整個操作當作一個事務來處理，

中途中斷l(xiāng)oad操作，會導致回滾。

與此相關的一些參數(shù)：

max_binlog_cache_size----能夠使用的最大cache內(nèi)存大小。

當執(zhí)行多語句事務時，max_binlog_cache_size如果不夠大，

系統(tǒng)可能會報出“Multi-statement

transaction required more than 'max_binlog_cache_size' bytes of storage”的錯誤。

備注：以load data 來說，如果load的文件大小為512M，在執(zhí)行l(wèi)oad 的過程中，

所有產(chǎn)生的binlog會先寫入binlog_cache_size,直到load data 的操作結(jié)束后，

最后，再由binlog_cache_size 寫入二進制日志，如mysql-bin.0000008等。

所以此參數(shù)的大小必須大于所要load 的文件的大小，或者當前所要進行的事務操作的大小。

max_binlog_size------------Binlog最大值，一般設置為512M或1GB，但不能超過1GB。

該設置并不能嚴格控制Binlog的大小，尤其是Binlog遇到一根比較大事務時，

為了保證事務的完整性，不可能做切換日志的動作，只能將該事務的所有SQL都記錄進

當前日志，直到事務結(jié)束

備注：有時能看到，binlog生成的大小，超過了設定的1G。這就是因為innodb某個事務的操作比較大，

不能做切換日志操作，就全部寫入當前日志，直到事務結(jié)束。

（2）C# 批量插入Mysql public void loadData(Connection connection) { long starTime = System.currentTimeMillis(); String sqlString = "load data local infile ? into table test"; PreparedStatement pstmt; try { pstmt = connection.prepareStatement(sqlString); pstmt.setString(1, "tfacts_result"); pstmt.executeUpdate(); pstmt.close(); } catch (SQLException e) { e.printStackTrace(); } long endTime = System.currentTimeMillis(); System.out.println("program runs " + (endTime - starTime) + "ms"); } public static void mysql_batch(string sqlStr,int point) { string sql = "insert into test(node1, node2, weight) values(?, ?, ?)"; Connection conn = getConn("mysql"); conn.setAutoCommit(false); //clear(conn); try { PreparedStatement prest = conn.prepareStatement(sql); //long a = System.currentTimeMillis(); for (int x = 1; x <= count; x++) { prest.setInt(1, x); prest.setString(2, "張三"); prest.addBatch(); if (x % point == 0) { prest.executeBatch(); conn.commit(); } } prest.close(); //long b = System.currentTimeMillis(); //print("MySql批量插入10萬條記錄", a, b, point); } catch (Exception ex) { ex.printStackTrace(); } finally { close(conn); }

使用into outfile 和 load data infile導入導出備份數(shù)據(jù)

如果要導出一個表中的部分字段或者部分符合條件的記錄，需要用到了mysql的into outfile?和?load data infile。
例如下面的mysql命令是把select的mytable表中的數(shù)據(jù)導出到/home/db_bak2012文件。

select * from mytable where status!=0 and name!='' into outfile '/home/db_bak2012' fields terminated by '|' enclosed by '"' lines terminated by '\r\n' ;

假如要導入剛才備份的數(shù)據(jù)，可以使用load file方法，例如下面的mysql命令，把導出的數(shù)據(jù)導入了mytable_bak的表中：

load data infile '/home/db_bak2012' into table mytable_bak fields terminated by '|' enclosed by '"' lines terminated by '\r\n' ;

這種方法的好處是，導出的數(shù)據(jù)可以自己規(guī)定格式，并且導出的是純數(shù)據(jù)，不存在建表信息，你可以直接導入另外一個同數(shù)據(jù)庫的不同表中，相對于mysqldump比較靈活機動。

#基本語法： load data [low_priority] [local] infile 'file_name txt' [replace | ignore] into table tbl_name [fields [terminated by't'] [OPTIONALLY] enclosed by ''] [escaped by'\' ]] [lines terminated by'n'] [ignore number lines] [(col_name, )]

load data infile語句從一個文本文件中以很高的速度讀入一個表中。使用這個命令之前，mysqld進程（服務）必須已經(jīng)在運行。為了安全原因，當讀取位于服務器上的文本文件時，文件必須處于數(shù)據(jù)庫目錄或可被所有人讀取。另外，為了對服務器上文件使用load data infile，在服務器主機上你必須有file的權限。 1 ?如果你指定關鍵詞low_priority，那么MySQL將會等到?jīng)]有其他人讀這個表的時候，才把插入數(shù)據(jù)。可以使用如下的命令：
load data ?low_priority infile "/home/mark/data sql" into table Orders; ? 2 ?如果指定local關鍵詞，則表明從客戶主機讀文件。如果local沒指定，文件必須位于服務器上。 ? 3 ?replace和ignore關鍵詞控制對現(xiàn)有的唯一鍵記錄的重復的處理。如果你指定replace，新行將代替有相同的唯一鍵值的現(xiàn)有行。如果你指定ignore，跳過有唯一鍵的現(xiàn)有行的重復行的輸入。如果你不指定任何一個選項，當找到重復鍵時，出現(xiàn)一個錯誤，并且文本文件的余下部分被忽略。例如： load data ?low_priority infile "/home/mark/data sql" replace into table Orders; ? 4?分隔符（1） fields關鍵字指定了文件記段的分割格式，如果用到這個關鍵字，MySQL剖析器希望看到至少有下面的一個選項：
terminated by分隔符：意思是以什么字符作為分隔符
enclosed by字段括起字符
escaped by轉(zhuǎn)義字符 terminated by描述字段的分隔符，默認情況下是tab字符（\t）
enclosed by描述的是字段的括起字符。
escaped by描述的轉(zhuǎn)義字符。默認的是反斜杠（backslash：\ ） ? 例如：load data infile "/home/mark/Orders txt" replace into table Orders fields terminated by',' enclosed by '"'; （2）lines 關鍵字指定了每條記錄的分隔符默認為'\n'即為換行符如果兩個字段都指定了那fields必須在lines之前。如果不指定fields關鍵字缺省值與如果你這樣寫的相同：?fields terminated by'\t' enclosed by ’ '' ‘ escaped by'\\' 如果你不指定一個lines子句，缺省值與如果你這樣寫的相同：?lines terminated by'\n' 例如：load data infile "/jiaoben/load.txt" replace into table test fields terminated by ',' lines terminated by '/n'; 5?load data infile?可以按指定的列把文件導入到數(shù)據(jù)庫中。當我們要把數(shù)據(jù)的一部分內(nèi)容導入的時候，，需要加入一些欄目（列/字段/field）到MySQL數(shù)據(jù)庫中，以適應一些額外的需要。比方說，我們要從Access數(shù)據(jù)庫升級到MySQL數(shù)據(jù)庫的時候下面的例子顯示了如何向指定的欄目(field)中導入數(shù)據(jù)：
load data infile "/home/Order txt" into table Orders(Order_Number, Order_Date, Customer_ID); 6?當在服務器主機上尋找文件時，服務器使用下列規(guī)則：
（1）如果給出一個絕對路徑名，服務器使用該路徑名。
（2）如果給出一個有一個或多個前置部件的相對路徑名，服務器相對服務器的數(shù)據(jù)目錄搜索文件。
（3）如果給出一個沒有前置部件的一個文件名，服務器在當前數(shù)據(jù)庫的數(shù)據(jù)庫目錄尋找文件。
例如：?/myfile txt”給出的文件是從服務器的數(shù)據(jù)目錄讀取，而作為“myfile txt”給出的一個文件是從當前數(shù)據(jù)庫的數(shù)據(jù)庫目錄下讀取。 ? ? 注意：字段中的空值用\N表示

我的文章一般淺顯易懂，不會搞那么深入讓大家很難理解。（其實我水平也不咋樣)

LOAD DATA INFILE 一直被認為是MySQL很強大的一個數(shù)據(jù)導入工具，因為他速度非常的快。
不過有幾個問題一定要注意
1、編碼。
2、靈活導入導出。

我來舉兩個例子說明一下。
一、關于編碼
我們的示例文本文件：
"我愛你","20","相貌平常，經(jīng)常耍流氓！哈哈"
"李奎","21","相貌平常，經(jīng)常耍流氓！哈哈"
"王二米","20","相貌平常，經(jīng)常耍流氓！哈哈"
"老三","24","很強"
"老四","34","XXXXX"
"老五","52","***%*￥*￥*￥*￥"
"小貓","45","中間省略。。。"
"小狗","12","就會叫"
"小妹","21","PP的很"
"小壞蛋","52","表里不一"
"上帝他爺","96","非常英俊"
"MM來了","10","。。。"
"歌頌黨","20","社會主義好"
"人民好","20","的確是好"
"老高","10","學習很好"
"斜三","60","眼睛斜了"
"中華之子","100","威武的不行了"
"大米","63","我愛吃"
"蘋果","15","好吃"
我們的示例表結(jié)構(gòu)：

+-------+-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
| Table | Create Table ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?|
+-------+-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
| t0 ? ?| CREATE TABLE `t0` (
?`id` bigint(20) unsigned NOT NULL auto_increment,
?`name` char(20) NOT NULL,
?`age` tinyint(3) unsigned NOT NULL,
?`description` text NOT NULL,
?PRIMARY KEY ?(`id`),
?UNIQUE KEY `idx_name` (`name`)
) ENGINE=MyISAM DEFAULT CHARSET=utf8 |?
+-------+-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
1 row in set (0.00 sec)

我們把這個文本文件從WINDOWS 下COPY到LINUX下看看

mysql> load data infile '/tmp/t0.txt' ignore into table t0 character set gbk fields terminated by ',' enclosed by '"' lines terminated by '\n' (`name`,`age`,`description`);
Query OK, 19 rows affected (0.01 sec)
Records: 19 ?Deleted: 0 ?Skipped: 0 ?Warnings: 0

mysql> select * from t0;
+----+----------+-----+----------------------------+
| id | name ? ? | age | description ? ? ? ? ? ? ? ?|
+----+----------+-----+----------------------------+
| ?1 | 我愛你 ? | ?20 | 相貌平常，經(jīng)常耍流氓！哈哈 |?
| ?2 | 李奎 ? ? | ?21 | 相貌平常，經(jīng)常耍流氓！哈哈 |?
| ?3 | 王二米 ? | ?20 | 相貌平常，經(jīng)常耍流氓！哈哈 |?
| ?4 | 老三 ? ? | ?24 | 很強 ? ? ? ? ? ? ? ? ? ? ? |?
| ?5 | 老四 ? ? | ?34 | XXXXX ? ? ? ? ? ? ? ? ? ? ?|?
| ?6 | 老五 ? ? | ?52 | ***%*￥*￥*￥*￥ ? ? ? ? ? |?
| ?7 | 小貓 ? ? | ?45 | 中間省略。。。 ? ? ? ? ? ? |?
| ?8 | 小狗 ? ? | ?12 | 就會叫 ? ? ? ? ? ? ? ? ? ? |?
| ?9 | 小妹 ? ? | ?21 | PP的很 ? ? ? ? ? ? ? ? ? ? |?
| 10 | 小壞蛋 ? | ?52 | 表里不一 ? ? ? ? ? ? ? ? ? |?
| 11 | 上帝他爺 | ?96 | 非常英俊 ? ? ? ? ? ? ? ? ? |?
| 12 | MM來了 ? | ?10 | 。。。 ? ? ? ? ? ? ? ? ? ? |?
| 13 | 歌頌黨 ? | ?20 | 社會主義好 ? ? ? ? ? ? ? ? |?
| 14 | 人民好 ? | ?20 | 的確是好 ? ? ? ? ? ? ? ? ? |?
| 15 | 老高 ? ? | ?10 | 學習很好 ? ? ? ? ? ? ? ? ? |?
| 16 | 斜三 ? ? | ?60 | 眼睛斜了 ? ? ? ? ? ? ? ? ? |?
| 17 | 中華之子 | 100 | 威武的不行了 ? ? ? ? ? ? ? |?
| 18 | 大米 ? ? | ?63 | 我愛吃 ? ? ? ? ? ? ? ? ? ? |?
| 19 | 蘋果 ? ? | ?15 | 好吃 ? ? ? ? ? ? ? ? ? ? ? |?
+----+----------+-----+----------------------------+
19 rows in set (0.00 sec)

我來說明一下相關的參數(shù)
關于我的導入語句，我現(xiàn)在直說兩個，其他的參考手冊。
character set gbk;

這個字符集一定要寫，要不然就會亂碼或者只導入一部分數(shù)據(jù)。

ignore into table?

因為name 列加了唯一索引，加這個是為了避免重復數(shù)據(jù)插入報錯。

加入我們再次運行這個導入語句就會發(fā)現(xiàn)
Query OK, 0 rows affected (0.00 sec)
Records: 19 ?Deleted: 0 ?Skipped: 19 ?Warnings: 0
沒有任何值導入，因為里面已經(jīng)有了相同的值。

這里也可以用replace into table
MySQL會把相同的先干掉，再插入新的值。
mysql> load data infile '/tmp/t0.txt' replace into table t0 character set gbk fields terminated by ',' enclosed by '"' lines terminated by '\n' (`name`,`age`,`description`);
Query OK, 38 rows affected (0.00 sec)
Records: 19 ?Deleted: 19 ?Skipped: 0 ?Warnings: 0

mysql> select * from t0;
+----+----------+-----+----------------------------+
| id | name ? ? | age | description ? ? ? ? ? ? ? ?|
+----+----------+-----+----------------------------+
| 20 | 我愛你 ? | ?20 | 相貌平常，經(jīng)常耍流氓！哈哈 |?
| 21 | 李奎 ? ? | ?21 | 相貌平常，經(jīng)常耍流氓！哈哈 |?
| 22 | 王二米 ? | ?20 | 相貌平常，經(jīng)常耍流氓！哈哈 |?
| 23 | 老三 ? ? | ?24 | 很強 ? ? ? ? ? ? ? ? ? ? ? |?
| 24 | 老四 ? ? | ?34 | XXXXX ? ? ? ? ? ? ? ? ? ? ?|?
| 25 | 老五 ? ? | ?52 | ***%*￥*￥*￥*￥ ? ? ? ? ? |?
| 26 | 小貓 ? ? | ?45 | 中間省略。。。 ? ? ? ? ? ? |?
| 27 | 小狗 ? ? | ?12 | 就會叫 ? ? ? ? ? ? ? ? ? ? |?
| 28 | 小妹 ? ? | ?21 | PP的很 ? ? ? ? ? ? ? ? ? ? |?
| 29 | 小壞蛋 ? | ?52 | 表里不一 ? ? ? ? ? ? ? ? ? |?
| 30 | 上帝他爺 | ?96 | 非常英俊 ? ? ? ? ? ? ? ? ? |?
| 31 | MM來了 ? | ?10 | 。。。 ? ? ? ? ? ? ? ? ? ? |?
| 32 | 歌頌黨 ? | ?20 | 社會主義好 ? ? ? ? ? ? ? ? |?
| 33 | 人民好 ? | ?20 | 的確是好 ? ? ? ? ? ? ? ? ? |?
| 34 | 老高 ? ? | ?10 | 學習很好 ? ? ? ? ? ? ? ? ? |?
| 35 | 斜三 ? ? | ?60 | 眼睛斜了 ? ? ? ? ? ? ? ? ? |?
| 36 | 中華之子 | 100 | 威武的不行了 ? ? ? ? ? ? ? |?
| 37 | 大米 ? ? | ?63 | 我愛吃 ? ? ? ? ? ? ? ? ? ? |?
| 38 | 蘋果 ? ? | ?15 | 好吃 ? ? ? ? ? ? ? ? ? ? ? |?
+----+----------+-----+----------------------------+
19 rows in set (0.00 sec)

(`name`,`age`,`description`);

這些也就是具體的表屬性了，指明這個就可以導入想要的數(shù)據(jù)。
2、關于靈活性，其實也就是一個記錄功能
如果想在導入的時候記錄一下導入的具體時間怎么辦？
我們來看看
先加一個時間屬性記錄導入時間。
mysql> alter table t0 add update_time timestamp not null;
Query OK, 19 rows affected (0.00 sec)
Records: 19 ?Duplicates: 0 ?Warnings: 0
干掉唯一索引
mysql> alter table t0 drop index idx_name;
Query OK, 19 rows affected (0.00 sec)
Records: 19 ?Duplicates: 0 ?Warnings: 0

mysql> load data infile '/tmp/t0.txt' into table t0 character set gbk fields terminated by ',' enclosed by '"' lines terminated by '\n' (`name`,`age`,`description`) set update_time=current_timestamp;
Query OK, 19 rows affected (0.00 sec)
Records: 19 ?Deleted: 0 ?Skipped: 0 ?Warnings: 0

mysql> select * from t0;
+----+----------+-----+----------------------------+---------------------+
| id | name ? ? | age | description ? ? ? ? ? ? ? ?| update_time ? ? ? ? |
+----+----------+-----+----------------------------+---------------------+
| 20 | 我愛你 ? | ?20 | 相貌平常，經(jīng)常耍流氓！哈哈 | 0000-00-00 00:00:00 |?
…………
| 24 | 老四 ? ? | ?34 | XXXXX ? ? ? ? ? ? ? ? ? ? ?| 0000-00-00 00:00:00 |?
| 25 | 老五 ? ? | ?52 | ***%*￥*￥*￥*￥ ? ? ? ? ? | 0000-00-00 00:00:00 |?
…………
| 35 | 斜三 ? ? | ?60 | 眼睛斜了 ? ? ? ? ? ? ? ? ? | 0000-00-00 00:00:00 |?
| 36 | 中華之子 | 100 | 威武的不行了 ? ? ? ? ? ? ? | 0000-00-00 00:00:00 |?
…………
| 60 | 王二米 ? | ?20 | 相貌平常，經(jīng)常耍流氓！哈哈 | 2008-06-30 14:58:37 |?
…………
| 68 | 上帝他爺 | ?96 | 非常英俊 ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 69 | MM來了 ? | ?10 | 。。。 ? ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
…………
| 75 | 大米 ? ? | ?63 | 我愛吃 ? ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 76 | 蘋果 ? ? | ?15 | 好吃 ? ? ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
+----+----------+-----+----------------------------+---------------------+
38 rows in set (0.00 sec)

新導入的19條記錄時間被記錄了下來。
只是之前的數(shù)據(jù)庫沒有記錄，不過現(xiàn)在不需要這些重復數(shù)據(jù)了。

干掉他就可以了

mysql> alter table t0 order by id desc;
Query OK, 38 rows affected (0.01 sec)
Records: 38 ?Duplicates: 0 ?Warnings: 0

mysql> alter ignore table t0 add unique index idx_name (`name`);
Query OK, 38 rows affected (0.00 sec)
Records: 38 ?Duplicates: 19 ?Warnings: 0

mysql> alter table t0 order by id asc;
Query OK, 19 rows affected (0.01 sec)
Records: 19 ?Duplicates: 0 ?Warnings: 0

mysql> select * from t0;
+----+----------+-----+----------------------------+---------------------+
| id | name ? ? | age | description ? ? ? ? ? ? ? ?| update_time ? ? ? ? |
+----+----------+-----+----------------------------+---------------------+
| 58 | 我愛你 ? | ?20 | 相貌平常，經(jīng)常耍流氓！哈哈 | 2008-06-30 14:58:37 |?
| 59 | 李奎 ? ? | ?21 | 相貌平常，經(jīng)常耍流氓！哈哈 | 2008-06-30 14:58:37 |?
| 60 | 王二米 ? | ?20 | 相貌平常，經(jīng)常耍流氓！哈哈 | 2008-06-30 14:58:37 |?
| 61 | 老三 ? ? | ?24 | 很強 ? ? ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 62 | 老四 ? ? | ?34 | XXXXX ? ? ? ? ? ? ? ? ? ? ?| 2008-06-30 14:58:37 |?
| 63 | 老五 ? ? | ?52 | ***%*￥*￥*￥*￥ ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 64 | 小貓 ? ? | ?45 | 中間省略。。。 ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 65 | 小狗 ? ? | ?12 | 就會叫 ? ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 66 | 小妹 ? ? | ?21 | PP的很 ? ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 67 | 小壞蛋 ? | ?52 | 表里不一 ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 68 | 上帝他爺 | ?96 | 非常英俊 ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 69 | MM來了 ? | ?10 | 。。。 ? ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 70 | 歌頌黨 ? | ?20 | 社會主義好 ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 71 | 人民好 ? | ?20 | 的確是好 ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 72 | 老高 ? ? | ?10 | 學習很好 ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 73 | 斜三 ? ? | ?60 | 眼睛斜了 ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 74 | 中華之子 | 100 | 威武的不行了 ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 75 | 大米 ? ? | ?63 | 我愛吃 ? ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
| 76 | 蘋果 ? ? | ?15 | 好吃 ? ? ? ? ? ? ? ? ? ? ? | 2008-06-30 14:58:37 |?
+----+----------+-----+----------------------------+---------------------+
19 rows in set (0.00 sec)

現(xiàn)在是達到了目的了，為啥中途要干掉唯一索引呢？因為set 語法再有IGNORE 的時候會忽略掉。

mysql load data 導出、導入 csv

#用mysql導出時，如果文件目錄沒有權限，可以將文件導出到 mysql 庫所在的服務器上的 /tmp/ 目錄下（推薦） select * from s_reviews where stars >0 limit 10 into outfile '/tmp/reviews.csv' fields terminated by ',' optionally enclosed by '"' escaped by '"' lines terminated by '\n'; #從csv文件導入數(shù)據(jù)，導入的時候，可以將要導入的文件先復制到 mysql 庫所在的服務器上的 /tmp/ 目錄下（推薦）。要將csv文件的字段和mysql表中的字段對應起來，以免出錯，同時也可以提醒自己導入的是哪些數(shù)據(jù)  LOAD DATA LOCAL INFILE '/tmp/reviews.csv' INTO TABLE s_reviews fields terminated by ',' optionally enclosed by '"' escaped by '"' lines terminated by '\n' (`id`, `user_id`, `user_name`, `shop_id`, `shop_name`, `arv_price`, `environment`, `taste_or_product`, `service`, `comment_type`, `comment`, `stars`, `review_time`, `fetch_time`);

轉(zhuǎn)載于:https://www.cnblogs.com/conanwang/p/5890753.html

總結(jié)

以上是生活随笔為你收集整理的mysql导入数据load data infile用法整理的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。

上一篇： [Leetcode][第133题][JA
下一篇： eveningplan