Python Pandas批量读取csv文件到dataframe的方法
作者:sharkandshark 时间:2022-12-15 17:05:03
PYTHON Pandas批量读取csv文件到DATAFRAME
首先使用glob.glob获得文件路径。然后定义一个列表,读取文件后再使用concat合并读取到的数据。
#读取数据
import pandas as pd
import numpy as np
import glob,os
path=r'e:\tj\month\fx1806'
file=glob.glob(os.path.join(path, "zq*.xls"))
print(file)
dl= []
for f in file:
dl.append(pd.read_excel(f,header=[0,1],index_col=None))
df=pd.concat(dl)
下面看下Python使用pandas处理CSV文件的方法
Python中有许多方便的库可以用来进行数据处理,尤其是Numpy和Pandas,再搭配matplot画图专用模块,功能十分强大。
CSV(Comma-Separated Values)格式的文件是指以纯文本形式存储的表格数据,这意味着不能简单的使用Excel表格工具进行处理,而且Excel表格处理的数据量十分有限,而使用Pandas来处理数据量巨大的CSV文件就容易的多了。
我用到的是自己用其他硬件工具抓取得数据,硬件环境是在Linux平台上搭建的,当时数据是在运行脚本后直接输出在terminal里的,数据量十分庞大,为了保存获得的数据,在Linux下使用了数据流重定向,把数据全部保存到了文本文件中,形成了一个本地csv文件。
Pandas读取本地CSV文件并设置Dataframe(数据格式)
import pandas as pd
import numpy as np
df=pd.read_csv('filename',header=None,sep=' ') #filename可以直接从盘符开始,标明每一级的文件夹直到csv文件,header=None表示头部为空,sep=' '表示数据间使用空格作为分隔符,如果分隔符是逗号,只需换成 ‘,'即可。
print df.head()
print df.tail()
#作为示例,输出CSV文件的前5行和最后5行,这是pandas默认的输出5行,可以根据需要自己设定输出几行的值
图片中显示了我本地数据的前5行与最后5行,最前面一列没有标号的是行号,数据一共有13列,标号从0到12,一行显示不完全,在第9列以后换了行,并且用反斜杠“\”标注了出来。
2017年4月28日更新
使用pandas直接读取本地的csv文件后,csv文件的列索引默认为从0开始的数字,重定义列索引的语句如下:
import pandas as pd
import numpy as np
df=pd.read_csv('filename',header=None,sep=' ',names=["week",'month','date','time','year','name1','freq1','name2','freq2','name3','data1','name4','data2'])
print df1234
此时打印出的文件信息如下,列索引已经被重命名:
总结
以上所述是小编给大家介绍的Python Pandas批量读取csv文件到dataframe的方法网站的支持!
来源:https://blog.csdn.net/sharkandshark/article/details/82963152
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
详解Ubuntu环境下部署Django+uwsgi+nginx总结
asp.net中通过ALinq让Mysql操作变得如此简单
![](https://img.aspxhome.com/file/2023/5/77195_0s.jpg)
Go使用sync.Map来解决map的并发操作问题
Python通过RabbitMQ服务器实现交换机功能的实例教程
![](https://img.aspxhome.com/file/2023/8/80658_0s.png)
Python控制多进程与多线程并发数总结
![](https://img.aspxhome.com/file/2023/2/117402_0s.png)
从0到1构建vueSSR项目之路由的构建
使用Python生成随机密码的示例分享
Vue Echarts实现柱形图从右向左滚动效果
![](https://img.aspxhome.com/file/2023/1/139871_0s.gif)
Python通过30秒就能学会的漂亮短程序代码(过程全解)
python OpenCV图像金字塔
![](https://img.aspxhome.com/file/2023/3/107483_0s.png)
Mysql索引创建删除及使用代价
详解PHP设计模式之桥接模式
django在接受post请求时显示403forbidden实例解析
使用python爬虫获取黄金价格的核心代码
![](https://img.aspxhome.com/file/2023/3/120303_0s.jpg)
Python如何使用qrcode生成指定内容的二维码并在GUI界面显示
![](https://img.aspxhome.com/file/2023/2/133342_0s.png)
go语言Timer计时器的用法示例详解
Python Pytorch深度学习之Tensors张量
![](https://img.aspxhome.com/file/2023/1/128751_0s.png)
Bootstrap Paginator分页插件使用方法详解
![](https://img.aspxhome.com/file/2023/4/56294_0s.png)
Bootstrap4如何定制自己的颜色和风格
![](https://img.aspxhome.com/file/2023/0/125930_0s.png)