mysql 處理重復(fù)數(shù)據(jù)

mysql 數(shù)據(jù)表中的重復(fù)記錄，有時(shí)候我們?cè)试S重復(fù)數(shù)據(jù)的存在，但有時(shí)候我們也需要?jiǎng)h除這些重復(fù)的數(shù)據(jù)。

我們可以設(shè)置字段屬性防止表中出現(xiàn)重復(fù)數(shù)據(jù)，還可以通過sql語句過濾、刪除或者統(tǒng)計(jì)表中的重復(fù)數(shù)據(jù)。

1. 防止表中出現(xiàn)重復(fù)數(shù)據(jù)

讓我們嘗試一個(gè)范例：下表中無索引及主鍵，所以該表允許出現(xiàn)多條重復(fù)記錄。

create table person_tbl
(
    first_name char(20),
    last_name char(20),
    sex char(10)
);

如果你想設(shè)置表中字段 first_name，last_name 數(shù)據(jù)不能重復(fù)，你可以設(shè)置雙主鍵模式來設(shè)置數(shù)據(jù)的唯一性， 如果你設(shè)置了雙主鍵，那么那個(gè)鍵的默認(rèn)值不能為 null，可設(shè)置為 not null。如下所示：

create table person_tbl
(
   first_name char(20) not null,
   last_name char(20) not null,
   sex char(10),
   primary key (last_name, first_name)
);

如果我們?cè)O(shè)置了唯一索引，那么在插入重復(fù)數(shù)據(jù)時(shí)，sql 語句將無法執(zhí)行成功,并拋出錯(cuò)。

insert ignore into 與 insert into 的區(qū)別就是 insert ignore into 會(huì)忽略數(shù)據(jù)庫中已經(jīng)存在的數(shù)據(jù)，如果數(shù)據(jù)庫沒有數(shù)據(jù)，就插入新的數(shù)據(jù)，如果有數(shù)據(jù)的話就跳過這條數(shù)據(jù)。這樣就可以保留數(shù)據(jù)庫中已經(jīng)存在數(shù)據(jù)，達(dá)到在間隙中插入數(shù)據(jù)的目的。

以下范例使用了 insert ignore into，執(zhí)行后不會(huì)出錯(cuò)，也不會(huì)向數(shù)據(jù)表中插入重復(fù)數(shù)據(jù)：

mysql> insert ignore into person_tbl (last_name, first_name)
    -> values( 'jay', 'thomas');
query ok, 1 row affected (0.00 sec)
mysql> insert ignore into person_tbl (last_name, first_name)
    -> values( 'jay', 'thomas');
query ok, 0 rows affected (0.00 sec)

insert ignore into 當(dāng)插入數(shù)據(jù)時(shí)，在設(shè)置了記錄的唯一性后，如果插入重復(fù)數(shù)據(jù)，將不返回錯(cuò)誤，只以警告形式返回。 而 replace into 如果存在 primary 或 unique 相同的記錄，則先刪除掉。再插入新記錄。

另一種設(shè)置數(shù)據(jù)的唯一性方法是添加一個(gè) unique 索引，如下所示：

create table person_tbl
(
   first_name char(20) not null,
   last_name char(20) not null,
   sex char(10),
   unique (last_name, first_name)
);

2. 統(tǒng)計(jì)重復(fù)數(shù)據(jù)

以下我們將統(tǒng)計(jì)表中 first_name 和 last_name的重復(fù)記錄數(shù)：

mysql> select count(*) as repetitions, last_name, first_name
    -> from person_tbl
    -> group by last_name, first_name
    -> having repetitions > 1;

以上查詢語句將返回 person_tbl 表中重復(fù)的記錄數(shù)。 一般情況下，查詢重復(fù)的值，請(qǐng)執(zhí)行以下操作：

• 確定哪一列包含的值可能會(huì)重復(fù)。
• 在列選擇列表使用count(*)列出的那些列。
• 在group by子句中列出的列。
• having子句設(shè)置重復(fù)數(shù)大于1。

3. 過濾重復(fù)數(shù)據(jù)

如果你需要讀取不重復(fù)的數(shù)據(jù)可以在 select 語句中使用 distinct 關(guān)鍵字來過濾重復(fù)數(shù)據(jù)。

mysql> select distinct last_name, first_name
    -> from person_tbl;

你也可以使用 group by 來讀取數(shù)據(jù)表中不重復(fù)的數(shù)據(jù)：

mysql> select last_name, first_name
    -> from person_tbl
    -> group by (last_name, first_name);

4. 刪除重復(fù)數(shù)據(jù)

如果你想刪除數(shù)據(jù)表中的重復(fù)數(shù)據(jù)，你可以使用以下的sql語句：

mysql> create table tmp select last_name, first_name, sex from person_tbl  group by (last_name, first_name, sex);
mysql> drop table person_tbl;
mysql> alter table tmp rename to person_tbl;

當(dāng)然你也可以在數(shù)據(jù)表中添加 index（索引） 和 primay key（主鍵）這種簡(jiǎn)單的方法來刪除表中的重復(fù)記錄。方法如下：

mysql> alter ignore table person_tbl
    -> add primary key (last_name, first_name);