MSSQL中部分字段重复数据的删除方法

作者:佚名 来源:zxbc.cn 时间:2008-12-29 13:59:00 

我们可能会出现这种情况,某个表原来设计不周全,导致表里面的数据数据重复,那么,如何对重复的数据进行删除呢?

重复的数据可能有这样两种情况,第一种时表中只有某些字段一样,第二种是两行记录完全一样。

一、对于部分字段重复数据的删除

先来谈谈如何查询重复的数据吧。

下面语句可以查询出那些数据是重复的:


select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1

将上面的>号改为=号就可以查询出没有重复的数据了。

想要删除这些重复的数据,可以使用下面语句进行删除


delete from 表名 a where 字段1,字段2 in
(select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1)

上面的语句非常简单,就是将查询到的数据删除掉。不过这种删除执行的效率非常低,对于大数据量来说,可能会将数据库吊死。所以我建议先将查询到的重复的数据插入到一个临时表中,然后对进行删除,这样,执行删除的时候就不用再进行一次查询了。如下:


CREATE TABLE 临时表 AS
(select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1)

上面这句话就是建立了临时表,并将查询到的数据插入其中。

下面就可以进行这样的删除操作了:


delete from 表名 a where 字段1,字段2 in (select 字段1,字段2 from 临时表);

这种先建临时表再进行删除的操作要比直接用一条语句进行删除要高效得多。

这个时候,大家可能会跳出来说,什么?你叫我们执行这种语句,那不是把所有重复的全都删除吗?而我们想保留重复数据中最新的一条记录啊!大家不要急,下面我就讲一下如何进行这种操作。

在oracle中,有个隐藏了自动rowid,里面给每条记录一个唯一的rowid,我们如果想保留最新的一条记录,

我们就可以利用这个字段,保留重复数据中rowid最大的一条记录就可以了 。

下面是查询重复数据的一个例子:


select a.rowid,a.* from 表名 a
where a.rowid !=
(
select max(b.rowid) from 表名 b
where a.字段1 = b.字段1 and
a.字段2 = b.字段2
)

下面我就来讲解一下,上面括号中的语句是查询出重复数据中rowid最大的一条记录。

而外面就是查询出除了rowid最大之外的其他重复的数据了。

由此,我们要删除重复数据,只保留最新的一条数据,就可以这样写了:


delete from 表名 a
where a.rowid !=
(
select max(b.rowid) from 表名 b
where a.字段1 = b.字段1 and
a.字段2 = b.字段2
)

随便说一下,上面语句的执行效率是很低的,可以考虑建立临时表,讲需要判断重复的字段、rowid插入临时表中,然后删除的时候在进行比较。 [Page]

create table 临时表 as

select a.字段1,a.字段2,MAX(a.ROWID) dataid from 正式表 a GROUP BY a.字段1,a.字段2;


delete from 表名 a
where a.rowid !=
(
select b.dataid from 临时表 b
where a.字段1 = b.字段1 and
a.字段2 = b.字段2
);
commit;

二、对于完全重复记录的删除

对于表中两行记录完全一样的情况,可以用下面语句获取到去掉重复数据后的记录:

select distinct * from 表名

可以将查询的记录放到临时表中,然后再将原来的表记录删除,最后将临时表的数据导回原来的表中。如下:


CREATE TABLE 临时表 AS (select distinct * from 表名);
drop table 正式表;
insert into 正式表 (select * from 临时表);
drop table 临时表;

如果想删除一个表的重复数据,可以先建一个临时表,将去掉重复数据后的数据导入到临时表,然后在从

临时表将数据导入正式表中,如下:

INSERT INTO t_table_bak
select distinct * from t_table;
标签:删除,mssql,字段,数据,方法
0
投稿

猜你喜欢

  • Python中使用PIPE操作Linux管道

    2022-02-10 18:25:25
  • Python脚本实现定时任务的最佳方法

    2021-09-20 10:41:35
  • Vuex的安装、搭建及案例详解

    2024-05-29 22:20:22
  • xml xpath基础语法

    2008-01-21 12:46:00
  • 一次现场mysql重复记录数据的排查处理实战记录

    2024-01-17 11:42:28
  • echo(),print(),print_r()之间的区别?

    2023-11-15 08:52:42
  • CentOS Linux更改MySQL数据库目录位置具体操作

    2024-01-23 18:13:49
  • 从p开始,循序渐进学习WEB标准

    2008-03-08 18:53:00
  • python基础教程之csv格式文件的写入与读取

    2021-05-24 09:20:12
  • asp如何通过表单创建一个Word?

    2010-06-07 20:56:00
  • python异常触发及自定义异常类解析

    2023-05-02 18:17:01
  • Python pyecharts数据可视化实例详解

    2023-06-28 01:35:30
  • Python3 读取Word文件方式

    2021-03-21 22:36:37
  • 用Asp+XmlHttp实现RssReader功能

    2008-07-09 12:20:00
  • Python函数进阶之迭代器的原理与使用详解

    2023-03-28 09:02:01
  • Django 接收Post请求数据,并保存到数据库的实现方法

    2024-01-13 08:18:56
  • 给SQL Server传送数组参数的变通办法

    2008-11-25 11:39:00
  • set rs=server.CreateObject("adodb.recordset") 的中文详细说明

    2011-03-06 11:21:00
  • 微软开源最强Python自动化神器Playwright(不用写一行代码)

    2024-01-02 00:38:00
  • 只需要这一行代码就能让python计算速度提高十倍

    2023-01-30 15:16:02
  • asp之家 网络编程 m.aspxhome.com