在平時(shí)的開發(fā)中,我們經(jīng)常遇到數(shù)據(jù)表中出現(xiàn)重復(fù)的數(shù)據(jù),那么該如何解決呢?這里介紹兩種情況下的數(shù)據(jù)去重方法,一、完全重復(fù)數(shù)據(jù)去重;二、部分字段數(shù)據(jù)重復(fù)去重。
創(chuàng)新互聯(lián)公司堅(jiān)持“要么做到,要么別承諾”的工作理念,服務(wù)領(lǐng)域包括:成都網(wǎng)站設(shè)計(jì)、成都做網(wǎng)站、外貿(mào)網(wǎng)站建設(shè)、企業(yè)官網(wǎng)、英文網(wǎng)站、手機(jī)端網(wǎng)站、網(wǎng)站推廣等服務(wù),滿足客戶于互聯(lián)網(wǎng)時(shí)代的增城網(wǎng)站設(shè)計(jì)、移動(dòng)媒體設(shè)計(jì)的需求,幫助企業(yè)找到有效的互聯(lián)網(wǎng)解決方案。努力成為您成熟可靠的網(wǎng)絡(luò)建設(shè)合作伙伴!
一、完全重復(fù)數(shù)據(jù)去重方法
對于表中完全重復(fù)數(shù)據(jù)去重,可以采用以下SQL語句。
Code
CREATETABLE"#temp"AS (SELECTDISTINCT * FROM 表名);--創(chuàng)建臨時(shí)表,并把DISTINCT 去重后的數(shù)據(jù)插入到臨時(shí)表中
truncateTABLE 表名;--清空原表數(shù)據(jù)
INSERTINTO 表名(SELECT * FROM"#temp");--將臨時(shí)表數(shù)據(jù)插入到原表中
DROPTABLE"#temp";--刪除臨時(shí)表
具體思路是,首先創(chuàng)建一個(gè)臨時(shí)表,然后將DISTINCT之后的表數(shù)據(jù)插入到這個(gè)臨時(shí)表中;然后清空原表數(shù)據(jù);再講臨時(shí)表中的數(shù)據(jù)插入到原表中;最后刪除臨時(shí)表。
二、部分?jǐn)?shù)據(jù)去重方法
首先查找重復(fù)數(shù)據(jù)
select 字段1,字段2,count(*) from 表名 groupby 字段1,字段2 havingcount(*) 1
將上面的號改為=號就可以查詢出沒有重復(fù)的數(shù)據(jù)了。
想要?jiǎng)h除這些重復(fù)的數(shù)據(jù),可以使用下面語句進(jìn)行刪除:
deletefrom 表名 a where 字段1,字段2 in
(select 字段1,字段2,count(*) from 表名 groupby 字段1,字段2 havingcount(*) 1)
上面的語句非常簡單,就是將查詢到的數(shù)據(jù)刪除掉。不過這種刪除執(zhí)行的效率非常低,對于大數(shù)據(jù)量來說,可能會(huì)將數(shù)據(jù)庫卡死。
基于上述情況,可以先將查詢到的重復(fù)的數(shù)據(jù)插入到一個(gè)臨時(shí)表中,然后對進(jìn)行刪除,這樣,執(zhí)行刪除的時(shí)候就不用再進(jìn)行一次查詢了。如下:
CREATETABLE 臨時(shí)表 AS
(select 字段1,字段2,count(*) from 表名 groupby 字段1,字段2 havingcount(*) 1)
下面就可以進(jìn)行這樣的刪除操作了:
deletefrom 表名 a where 字段1,字段2 in (select 字段1,字段2 from 臨時(shí)表);
先建臨時(shí)表再進(jìn)行刪除的操作要比直接用一條語句進(jìn)行刪除要高效得多。
上面的語句會(huì)把所有重復(fù)的全都刪除,在oracle中,有個(gè)隱藏了自動(dòng)rowid,里面給每條記錄一個(gè)唯一的rowid,我們?nèi)绻氡A糇钚碌囊粭l記錄,我們就可以利用這個(gè)字段,保留重復(fù)數(shù)據(jù)中rowid最大的一條記錄就可以了。
下面是查詢重復(fù)數(shù)據(jù)的一個(gè)例子:
select a.rowid,a.* from 表名 a
where a.rowid !=
(
selectmax(b.rowid) from 表名 b
where a.字段1 = b.字段1 and
a.字段2 = b.字段2
)
上面括號中的語句是查詢出重復(fù)數(shù)據(jù)中rowid最大的一條記錄。而外面就是查詢出除了rowid最大之外的其他重復(fù)的數(shù)據(jù)了。
由此,我們要?jiǎng)h除重復(fù)數(shù)據(jù),只保留最新的一條數(shù)據(jù),就可以這樣寫了:
deletefrom 表名 a
where a.rowid !=
(
selectmax(b.rowid) from 表名 b
where a.字段1 = b.字段1 and
a.字段2 = b.字段2
)
同理,上述代碼的執(zhí)行效率畢竟低,所以我們可以考慮建立臨時(shí)表,將需要判斷重復(fù)的字段、rowid插入臨時(shí)表中,然后刪除的時(shí)候在進(jìn)行比較。
createtable 臨時(shí)表 as
select a.字段1,a.字段2,MAX(a.ROWID) dataid from 正式表 a GROUPBY a.字段1,a.字段2;
deletefrom 表名 a
where a.rowid !=
(
select b.dataid from 臨時(shí)表 b
where a.字段1 = b.字段1 and
a.字段2 = b.字段2
);
commit;
1。用rowid方法
據(jù)據(jù)oracle帶的rowid屬性,進(jìn)行判斷,是否存在重復(fù),語句如下:
查數(shù)據(jù):
select * from table1 a where rowid
!=(select max(rowid)
from table1 b where a.name1=b.name1 and
a.name2=b.name2......)
刪數(shù)據(jù):
delete from table1 a where rowid
!=(select max(rowid)
from table1 b where a.name1=b.name1 and
a.name2=b.name2......)
2.group by方法
查數(shù)據(jù):
select count(num), max(name) from student --列出重復(fù)的記錄數(shù),并列出他的name屬性
group by num
having count(num) 1 --按num分組后找出表中num列重復(fù),即出現(xiàn)次數(shù)大于一次
刪數(shù)據(jù):
delete from student
group by num
having count(num) 1
這樣的話就把所有重復(fù)的都刪除了。
3.用distinct方法 -對于小的表比較有用
create table table_new as select distinct *
from table1 minux
truncate table table1;
insert into table1 select * from table_new;
方法一:可以通過group by 進(jìn)行分組。\x0d\x0asql:select username,count(username) from tablename grop by username;\x0d\x0a解釋:以上sql就是通過分組函數(shù)讀取出tablename表中username的值和每個(gè)不同值的統(tǒng)計(jì)個(gè)數(shù)。\x0d\x0a方法二:可以通過distinct函數(shù) 進(jìn)行去重查詢。\x0d\x0asql:select distinct username from tablename\x0d\x0a解釋:本sql就是查詢出所有的tablename表中的username值(不重復(fù))。
C列也要考慮對么?
delete from table x
where not exists (select 1 from (select a,b,max(c) c from table group by a,b ) y
where x.a=y.a and x.b=y.b and x.c=y.c);
隨機(jī)刪除重復(fù)列:
delete from table x
where exists(select 1 from (select a, b, max(rowid) max_rowid from table group by a, b) y
where x.a=y.a and x.b=y.b and x.rowid y.max_rowid);
select distinct 字段名 from 表名;
或者
select 字段名 from 表名 group by 字段名;
第二種寫法,group by 中的字段名需要與select的字段名一致。