數(shù)據(jù)庫(kù)去重有很多方法，下面列出目前理解與使用的方法

?

第一種

通過(guò)group by分組，然后將分組后的數(shù)據(jù)寫入臨時(shí)表然后再寫入另外的表,對(duì)于沒(méi)有出現(xiàn)再group by后面的field可以用函數(shù)max,min提取，效率較高
--適合情況：這種情況適合重復(fù)率非常高的情況，一般來(lái)說(shuō)重復(fù)率超過(guò)5成則可以考慮用這個(gè)方法
--優(yōu)點(diǎn)：對(duì)于重復(fù)率高的數(shù)據(jù)集的去重，十分推薦用這種方法
--缺點(diǎn)：uuid不能用max或min提取，如果需要去重的數(shù)據(jù)集中包含uuid則十分尷尬

create temp table tmp_data1 as
select [field1],[field2]...,max(field_special),min(field_special) from group by [field1],[field2]...;

insert into [table] select * from tmp_data1;

?

第二種

通過(guò)union去除完全重復(fù)的行，效率較高
--適合情況：這種方法只適合去除完全重復(fù)的行

select * from table1
union
select * from table1;

?

?

?

第三種

通過(guò)group by加id加not in，即先用group by分組，然后取出該分組下最大或最小的id組成集合，然后配合not in過(guò)濾掉重復(fù)的數(shù)據(jù)，效率很低，可以嘗試配合臨時(shí)表（測(cè)試發(fā)現(xiàn)依舊很慢）

--適合情況：由于該種方法效率很低，所以不推薦使用，如果數(shù)據(jù)量不大的情況下可以用這種方法，數(shù)據(jù)量只要上了100萬(wàn)就會(huì)很慢很慢

delete from [table] where id not in (select max(id) from table1 group by [field1],[field2]...);

?

第四種

通過(guò)group by加having加in，即先用group by分組，然后用having count(*)>1取出分組數(shù)量大于1的行（即重復(fù)的行），然后用in刪除重復(fù)行，效率較高
--適合情況：一條數(shù)據(jù)大概只有一到兩三條重復(fù)，這種方法一次只能刪除重復(fù)數(shù)據(jù)的一條，如果有些數(shù)據(jù)有幾百次重復(fù)那就會(huì)累死，其實(shí)也可以使用函數(shù)做一個(gè)循環(huán)，但這樣的效率就不高了

delete from [table] where id in (select max(id) from [table] group by [field1],[field2]... having count(*)>1);

?

?

第五種

使用窗口函數(shù)加id，即可以使用窗口函數(shù)將數(shù)據(jù)分組，并將每個(gè)分組按行排號(hào)，并將行號(hào)與id（唯一id）存入一個(gè)集合里，這樣就可以根據(jù)這個(gè)集合來(lái)取處重復(fù)行的id，即通過(guò)行號(hào)>1，
-- 然后根據(jù)id刪除重復(fù)行，效率很高（100萬(wàn)數(shù)據(jù)，重復(fù)9萬(wàn)，時(shí)間: 14.596s）
--適合情況：該種方法效率很高，特別推薦使用，但需要了解窗口函數(shù)以及其中的一些關(guān)鍵詞的意義

--row_number() 為返回的記錄定義個(gè)行編號(hào)
--over 與row_number()函數(shù)配套使用
--partition by [field1],[field2]... 根據(jù)指定的字段分組

delete from [table] where id in (select id from (select row_number() over (partition by [field1],[field2]...), id from [table]) as t where t.row_number>1);

?

第六種，對(duì)于不同的情況，不同的數(shù)據(jù)量級(jí)，可以配合使用以上五種方法，靈活使用。

?

轉(zhuǎn)載于:https://www.cnblogs.com/holden1/p/9946564.html

總結(jié)

以上是生活随笔為你收集整理的postgresql数据库去重方法的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。