聊聊python中令人迷惑的duplicated和drop_duplicates()用法
作者:石小秀1995 时间:2022-01-03 19:10:57
前言
在算face_track_id map有感:
开始验证
data={'state':[1,1,2,2,1,2,2,2],'pop':['a','b','c','d','b','c','d','d']}
frame=pd.DataFrame(data)
frame
frame.shape
$ (8,2)
# 说明duplicated()是对整行进行查重,return 重复了的数据,且只现实n-1条重复的数据(n是重复的次数)
frame[frame.duplicated() == True]
一开始还很疑惑,明明(1,b)只出现了1次,哪里duplicate了。其实,人家return的结果是去掉已经出现过一次的行数据了。所以看起来有点confuse,感觉(1,b)并没有重复,但其实人家的函数很简洁呢,返回了重复值而且不冗余。
# 说明drop_duplicates()函数是将所有重复的数据都去掉了,且默认保留重复数据的第一条。
# 比如(2,d)出现了3次,在duplicated()中显示了2次,在drop_dupicates()后保留了一个
frame.drop_duplicates().shape
$ (4,2)
# 留下了完全唯一的数据行
frame.drop_duplicates()
补充:python的pandas重复值处理(duplicated()和drop_duplicates())
一、生成重复记录数据
import numpy as np
import pandas as pd
#生成重复数据
df=pd.DataFrame(np.ones([5,2]),columns=['col1','col2'])
df['col3']=['a','b','a','c','d']
df['col4']=[3,2,3,2,2]
df=df.reindex(columns=['col3','col4','col1','col2']) #将新增的一列排在第一列
df
输出:
二、判断重复记录(行)
#判断重复数据
isDplicated=df.duplicated() #判断重复数据记录
isDplicated
输出:
三、删除重复值
#删除重复值
new_df1=df.drop_duplicates() #删除数据记录中所有列值相同的记录
new_df2=df.drop_duplicates(['col3']) #删除数据记录中col3列值相同的记录
new_df3=df.drop_duplicates(['col4']) #删除数据记录中col4列值相同的记录
new_df4=df.drop_duplicates(['col3','col4']) #删除数据记录中(col3和col4)列值相同的记录
new_df1
new_df2
new_df3
new_df4
输出:
来源:https://blog.csdn.net/weixin_43852674/article/details/87717191
标签:python,duplicated,drop,duplicates
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
MySQL数据库中对前端和后台进行系统优化
2009-01-04 13:39:00
Python编程实现控制cmd命令行显示颜色的方法示例
2023-07-24 05:39:45
![](https://img.aspxhome.com/file/2023/0/60940_0s.jpg)
sqlserver 日期比较、日期查询常用语句:月的第一天,季度的第一天等
2010-08-01 18:58:00
pygame实现弹球游戏
2023-05-26 20:38:44
使用Python3中的gettext模块翻译Python源码以支持多语言
2022-10-17 21:36:07
![](https://img.aspxhome.com/file/2023/6/82976_0s.jpg)
对python中的控制条件、循环和跳出详解
2022-03-08 00:41:44
asp 延时 页面延迟的三种方法
2011-03-31 11:04:00
python使用cookielib库示例分享
2022-09-22 13:53:37
python实现人脸识别经典算法(一) 特征脸法
2021-07-15 11:35:03
深入讲解Go语言中函数new与make的使用和区别
2023-06-16 17:52:29
pytorch 图像中的数据预处理和批标准化实例
2023-07-16 15:08:12
excel导入到SQL Sever数据库
2008-03-25 10:24:00
Python两台电脑实现TCP通信的方法示例
2023-09-07 04:17:34
详解PHP结构型设计模式之桥接模式Bridge Pattern
2023-05-25 06:58:55
php获取文件扩展名的3种方法实例
2023-05-25 02:15:51
django模板结构优化的方法
2023-11-12 11:57:02
JavaScript控制flash操作 兼容IE FF[译]
2009-11-29 16:28:00
![](https://img.aspxhome.com/file/UploadPic/200911/29/flashjr-60s.jpg)
Python 格式化输出_String Formatting_控制小数点位数的实例详解
2023-11-29 12:09:14
如何让12px以下的文字最佳显示
2008-01-24 18:39:00
在Oracle中向视图中插入数据的方法
2009-02-28 10:42:00