Python Pandas对缺失值的处理方法

作者:乒乓球鸡蛋 时间:2021-03-18 19:38:55 

Pandas使用这些函数处理缺失值:

  • isnull和notnull:检测是否是空值,可用于df和series

  • dropna:丢弃、删除缺失值

    • axis : 删除行还是列,{0 or ‘index', 1 or ‘columns'}, default 0

    • how : 如果等于any则任何值为空都删除,如果等于all则所有值都为空才删除

    • inplace : 如果为True则修改当前df,否则返回新的df

  • fillna:填充空值

    • value:用于填充的值,可以是单个值,或者字典(key是列名,value是值)

    • method : 等于ffill使用前一个不为空的值填充forword fill;等于bfill使用后一个不为空的值填充backword fill

    • axis : 按行还是列填充,{0 or ‘index', 1 or ‘columns'}

    • inplace : 如果为True则修改当前df,否则返回新的df


import pandas as pd

实例:特殊Excel的读取、清洗、处理

步骤1:读取excel的时候,忽略前几个空行


studf = pd.read_excel("./datas/student_excel/student_excel.xlsx", skiprows=2)

studf


Unnamed: 0姓名科目分数
0NaN小明语文85.0
1NaNNaN数学80.0
2NaNNaN英语90.0
3NaNNaNNaNNaN
4NaN小王语文85.0
5NaNNaN数学NaN
6NaNNaN英语90.0
7NaNNaNNaNNaN
8NaN小刚语文85.0
9NaNNaN数学80.0
10NaNNaN英语90.0

步骤2:检测空值


studf.isnull()


Unnamed: 0姓名科目分数
0TrueFalseFalseFalse
1TrueTrueFalseFalse
2TrueTrueFalseFalse
3TrueTrueTrueTrue
4TrueFalseFalseFalse
5TrueTrueFalseTrue
6TrueTrueFalseFalse
7TrueTrueTrueTrue
8TrueFalseFalseFalse
9TrueTrueFalseFalse
10TrueTrueFalseFalse


studf["分数"].isnull()

0 False
1 False
2 False
3 True
4 False
5 True
6 False
7 True
8 False
9 False
10 False
Name: 分数, dtype: bool

studf["分数"].notnull()

0 True
1 True
2 True
3 False
4 True
5 False
6 True
7 False
8 True
9 True
10 True
Name: 分数, dtype: bool

# 筛选没有空分数的所有行
studf.loc[studf["分数"].notnull(), :]


Unnamed: 0姓名科目分数
0NaN小明语文85.0
1NaNNaN数学80.0
2NaNNaN英语90.0
4NaN小王语文85.0
6NaNNaN英语90.0
8NaN小刚语文85.0
9NaNNaN数学80.0
10NaNNaN英语90.0

步骤3:删除掉全是空值的列


studf.dropna(axis="columns", how='all', inplace=True)

studf


姓名科目分数
0小明语文85.0
1NaN数学80.0
2NaN英语90.0
3NaNNaNNaN
4小王语文85.0
5NaN数学NaN
6NaN英语90.0
7NaNNaNNaN
8小刚语文85.0
9NaN数学80.0
10NaN英语90.0

步骤4:删除掉全是空值的行


studf.dropna(axis="index", how='all', inplace=True)

studf


姓名科目分数
0小明语文85.0
1NaN数学80.0
2NaN英语90.0
4小王语文85.0
5NaN数学NaN
6NaN英语90.0
8小刚语文85.0
9NaN数学80.0
10NaN英语90.0

步骤5:将分数列为空的填充为0分


studf.fillna({"分数":0})


姓名科目分数
0小明语文85.0
1NaN数学80.0
2NaN英语90.0
4小王语文85.0
5NaN数学0.0
6NaN英语90.0
8小刚语文85.0
9NaN数学80.0
10NaN英语90.0


# 等同于
studf.loc[:, '分数'] = studf['分数'].fillna(0)

studf


姓名科目分数
0小明语文85.0
1NaN数学80.0
2NaN英语90.0
4小王语文85.0
5NaN数学0.0
6NaN英语90.0
8小刚语文85.0
9NaN数学80.0
10NaN英语90.0

步骤6:将姓名的缺失值填充

使用前面的有效值填充,用ffill:forward fill


studf.loc[:, '姓名'] = studf['姓名'].fillna(method="ffill")

studf


姓名科目分数
0小明语文85.0
1小明数学80.0
2小明英语90.0
4小王语文85.0
5小王数学0.0
6小王英语90.0
8小刚语文85.0
9小刚数学80.0
10小刚英语90.0

步骤7:将清洗好的excel保存


studf.to_excel("./datas/student_excel/student_excel_clean.xlsx", index=False)

总结

来源:https://www.cnblogs.com/crazyant/p/11595566.html

标签:pandas,缺失值
0
投稿

猜你喜欢

  • python opencv人脸识别考勤系统的完整源码

    2022-03-20 21:15:43
  • js动态生成form 并用ajax方式提交的实现方法

    2024-04-17 09:59:54
  • Oracle性能究极优化 下

    2010-07-30 13:25:00
  • Python MySQL 日期时间格式化作为参数的操作

    2024-01-12 23:52:13
  • tensorflow实现从.ckpt文件中读取任意变量

    2023-01-04 15:39:40
  • Go语言开发redis封装及简单使用详解

    2024-05-08 10:53:30
  • 使用PHP实现微信摇一摇周边红包

    2023-11-14 12:04:22
  • python中dump与dumps实现序列化

    2023-01-13 22:46:16
  • Tensorflow 合并通道及加载子模型的方法

    2023-08-10 05:36:54
  • Python基于xlrd模块操作Excel的方法示例

    2021-07-18 16:04:06
  • Python3使用 GitLab API 进行批量合并分支

    2023-05-26 08:38:53
  • Python中使用copy模块实现列表(list)拷贝

    2022-05-13 02:46:48
  • Python异常处理总结

    2021-12-18 17:19:19
  • 在python中如何建立一个自己的包

    2022-12-27 12:42:25
  • JQuery中serialize()用法实例分析

    2024-04-22 22:22:25
  • python cookie反爬处理的实现

    2021-10-16 23:33:17
  • Python实现灰色关联分析与结果可视化的详细代码

    2023-08-03 15:01:56
  • Python+folium绘制精美地图的示例详解

    2023-07-26 13:17:06
  • Django实现单用户登录的方法示例

    2021-12-21 03:26:41
  • jQuery+php简单实现全选删除的方法

    2023-11-05 20:23:38
  • asp之家 网络编程 m.aspxhome.com