利用python进行数据加载

作者:weixin_41832970 时间:2022-05-11 19:55:00 

前言

最近参加了datawhale的组队学习活动,在组队学习动员下,开始通过强迫自己输出来实现更好的输入与处理,6-15开始自己的第一次文章发布,我会把自己这个真的很小白遇到的问题写出来,希望能给屏幕前小白的你带来帮助。

工作中大量繁琐的自动化,把以前在学校摸过的python重新捡起来,不成体系的、拼图一样把需要的工作搭建起来,工作暂时是可用上了,每天节省了至少3个小时的数据处理工作,手里拿着python这个锤子,看什么都像钉子。

首先,你要先学会安装软件,anaconda软件,安装成功后,你点击jupyter notebook打开代码框。

现在可以开始尝试做数据分析了。

一、数据加载

1.1 载入数据

数据集下载 https://www.kaggle.com/c/titanic/overview

1.1.1 导入包

导入numpy和pandas


import pandas as pd
import numpy as np

如果出错了,需要注意大小写、有没有单词写错了

1.1.2 载入数据

(1) 使用相对路径载入数据
(2) 使用绝对路径载入数据  


df = pd.read_csv('train.csv')
df.head(3)

df = pd.read_csv('/Users/Documents/train.csv')
df.head(3)

注意绝对路径的 “  /  ” 方向不要错。

1.1.3 大文件时要分块读取

每1000行为一个数据模块,逐块读取


chunker = pd.read_csv('train.csv', chunksize=1000)

1.1.4

对着整个表修改列名:将表头改成中文,索引改为乘客ID ,要注意的是,要记得把名字跟列一一对上,数量对上、顺序对上

PassengerId => 乘客ID
Survived => 是否幸存
Pclass => 乘客等级(1/2/3等舱位)
Name => 乘客姓名
Sex => 性别
Age => 年龄
SibSp => 堂兄弟/妹个数
Parch => 父母与小孩个数
Ticket => 船票信息
Fare => 票价
Cabin => 客舱
Embarked => 登船港口


df = pd.read_csv('train.csv', names=['乘客ID','是否幸存','仓位等级','姓名','性别','年龄','兄弟姐妹个数','父母子女个数','船票信息','票价','客舱','登船港口'],index_col='乘客ID',header=0)
df.head()

1.2 初步观察

导入数据后,我们可以对数据的整体结构和样例进行概览,比如说,数据大小、有多少列,各列都是什么格式的,是否包含null等。info 后面加()跟不加()会 有不同的内容。


print(df.info())

如想在python的查看数据,可以用head


df.head(10)
df.tail(15)

判断数据是否为空,为空的地方返回True,其余地方返回False


df.isnull().head()

1.3 保存数据

在工作目录下保存为一个新文件train_chinese.csv,如不希望表格自带index,可以加入index=false


df.to_csv('train_chinese.csv',index=flase)

来源:https://blog.csdn.net/weixin_41832970/article/details/117869698

标签:python,数据,加载
0
投稿

猜你喜欢

  • Python基于列表list实现的CRUD操作功能示例

    2022-06-15 16:02:14
  • 通过作业调度建立SQL Server的自动备份

    2008-12-09 14:58:00
  • MySQL中批量删除指定前缀表的sql语句

    2024-01-17 07:37:07
  • Python文件操作和数据格式详解(简单简洁)

    2022-12-18 21:28:01
  • 如何优雅、安全的关闭MySQL进程

    2024-01-27 06:33:27
  • Windows11下MySQL 8.0.29 安装配置方法图文教程

    2024-01-24 09:20:40
  • golang 格式化输入输出操作

    2024-04-25 15:10:24
  • 如果没设置 DSN 也能建立数据库连接吗?

    2009-11-02 20:16:00
  • 浅谈python处理json和redis hash的坑

    2023-08-01 10:51:14
  • MySQL中VARCHAR与CHAR格式数据的区别

    2024-01-15 01:58:25
  • Django1.11自带分页器paginator的使用方法

    2021-07-04 12:44:23
  • 通过Python中的CGI接口讲解什么是WSGI

    2022-08-10 15:04:24
  • python使用xlsx和pandas处理Excel表格的操作步骤

    2021-05-19 02:30:20
  • 深入解析Go语言编程中的递归使用

    2023-10-09 09:24:36
  • 浅谈python多线程和队列管理shell程序

    2023-05-18 05:58:25
  • 多浏览器兼容的动态加载 JavaScript 与 CSS第1/2页

    2024-05-13 09:20:31
  • nodejs 全局变量和全局对象知识点及用法详解

    2024-05-08 10:11:26
  • Python爬虫之网络请求

    2023-10-29 21:28:08
  • JS getRandomValues和Math.random方法深入解析

    2024-04-17 09:54:42
  • python做接口测试的必要性

    2022-06-09 00:05:41
  • asp之家 网络编程 m.aspxhome.com