MySQL 處理重復(fù)數(shù)據(jù)

有些 MySQL 數(shù)據(jù)表中可能存在重復(fù)的記錄，有些情況我們允許重復(fù)數(shù)據(jù)的存在，但有時(shí)候我們也需要?jiǎng)h除這些重復(fù)的數(shù)據(jù)。

本章節(jié)我們將為大家介紹如何防止數(shù)據(jù)表出現(xiàn)重復(fù)數(shù)據(jù)及如何刪除數(shù)據(jù)表中的重復(fù)數(shù)據(jù)。

防止表中出現(xiàn)重復(fù)數(shù)據(jù)

讓我們嘗試一個(gè)實(shí)例：下表中無索引及主鍵，所以該表允許出現(xiàn)多條重復(fù)記錄。

CREATE TABLE person_tbl
(
    first_name CHAR(20),
    last_name CHAR(20),
    sex CHAR(10)
);

如果你想設(shè)置表中字段first_name，last_name數(shù)據(jù)不能重復(fù)，你可以設(shè)置雙主鍵模式來設(shè)置數(shù)據(jù)的唯一性， 如果你設(shè)置了雙主鍵，那么那個(gè)鍵的默認(rèn)值不能為NULL，可設(shè)置為NOT NULL。如下所示：

CREATE TABLE person_tbl
(
   first_name CHAR(20) NOT NULL,
   last_name CHAR(20) NOT NULL,
   sex CHAR(10),
   PRIMARY KEY (last_name, first_name)
);

如果我們設(shè)置了唯一索引，那么在插入重復(fù)數(shù)據(jù)時(shí)，SQL語句將無法執(zhí)行成功,并拋出錯(cuò)。

INSERT IGNORE INTO與INSERT INTO的區(qū)別就是INSERT IGNORE會(huì)忽略數(shù)據(jù)庫中已經(jīng)存在的數(shù)據(jù)，如果數(shù)據(jù)庫沒有數(shù)據(jù)，就插入新的數(shù)據(jù)，如果有數(shù)據(jù)的話就跳過這條數(shù)據(jù)。這樣就可以保留數(shù)據(jù)庫中已經(jīng)存在數(shù)據(jù)，達(dá)到在間隙中插入數(shù)據(jù)的目的。

以下實(shí)例使用了INSERT IGNORE INTO，執(zhí)行后不會(huì)出錯(cuò)，也不會(huì)向數(shù)據(jù)表中插入重復(fù)數(shù)據(jù)：

mysql> INSERT IGNORE INTO person_tbl (last_name, first_name)
    -> VALUES( 'Jay', 'Thomas');
Query OK, 1 row affected (0.00 sec)
mysql> INSERT IGNORE INTO person_tbl (last_name, first_name)
    -> VALUES( 'Jay', 'Thomas');
Query OK, 0 rows affected (0.00 sec)

INSERT IGNORE INTO當(dāng)插入數(shù)據(jù)時(shí)，在設(shè)置了記錄的唯一性后，如果插入重復(fù)數(shù)據(jù)，將不返回錯(cuò)誤，只以警告形式返回。 而REPLACE INTO如果存在primary 或 unique相同的記錄，則先刪除掉。再插入新記錄。

另一種設(shè)置數(shù)據(jù)的唯一性方法是添加一個(gè)UNIQUE索引，如下所示：

CREATE TABLE person_tbl
(
   first_name CHAR(20) NOT NULL,
   last_name CHAR(20) NOT NULL,
   sex CHAR(10),
   UNIQUE (last_name, first_name)
);

查詢重復(fù)記錄

select user_name,count(*) as count from user_table group by user_name having count>1;
select * from people 
where peopleId in (select peopleId from people group by peopleId having count(peopleId) > 1) 

統(tǒng)計(jì)重復(fù)數(shù)據(jù)

以下我們將統(tǒng)計(jì)表中 first_name 和 last_name的重復(fù)記錄數(shù)：

mysql> SELECT COUNT(*) as repetitions, last_name, first_name
    -> FROM person_tbl
    -> GROUP BY last_name, first_name
    -> HAVING repetitions > 1;

以上查詢語句將返回 person_tbl 表中重復(fù)的記錄數(shù)。 一般情況下，查詢重復(fù)的值，請執(zhí)行以下操作：

• 確定哪一列包含的值可能會(huì)重復(fù)。
• 在列選擇列表使用COUNT(*)列出的那些列。
• 在GROUP BY子句中列出的列。
• HAVING子句設(shè)置重復(fù)數(shù)大于1。

過濾重復(fù)數(shù)據(jù)

如果你需要讀取不重復(fù)的數(shù)據(jù)可以在 SELECT 語句中使用 DISTINCT 關(guān)鍵字來過濾重復(fù)數(shù)據(jù)。

mysql> SELECT DISTINCT last_name, first_name
    -> FROM person_tbl
    -> ORDER BY last_name;

你也可以使用 GROUP BY 來讀取數(shù)據(jù)表中不重復(fù)的數(shù)據(jù)：

mysql> SELECT last_name, first_name
    -> FROM person_tbl
    -> GROUP BY (last_name, first_name);

刪除重復(fù)數(shù)據(jù)

如果你想刪除數(shù)據(jù)表中的重復(fù)數(shù)據(jù)，你可以使用以下的SQL語句：

mysql> CREATE TABLE tmp SELECT last_name, first_name, sex
    ->                  FROM person_tbl;
    ->                  GROUP BY (last_name, first_name);
mysql> DROP TABLE person_tbl;
mysql> ALTER TABLE tmp RENAME TO person_tbl;

當(dāng)然你也可以在數(shù)據(jù)表中添加 INDEX（索引） 和 PRIMAY KEY（主鍵）這種簡單的方法來刪除表中的重復(fù)記錄。方法如下：

mysql> ALTER IGNORE TABLE person_tbl
    -> ADD PRIMARY KEY (last_name, first_name);