Python 处理数据的实例详解
作者:qindongliang1922 时间:2021-05-31 21:29:35
Python 处理数据的实例详解
最近用python(3.2的版本)写了根据特定规则,处理数据的一个小程序,用到了一些python常用的基础知识,在此总结一下:
1,python读文件
2,python写文件
3,python的流程控制
4,python的for循环
5,python的集合,或字符串里判断是否存在某个元素
6,python的逻辑或,逻辑与
7,python的正则过滤
8,python的字符串忽略空格,和以某个字符串开头和按某个字符拆分成list
python的打开文件的模式:
关于open 模式:
w 以写方式打开,
a 以追加模式打开 (从 EOF 开始, 必要时创建新文件)
r+ 以读写模式打开
w+ 以读写模式打开 (参见 w )
a+ 以读写模式打开 (参见 a )
rb 以二进制读模式打开
wb 以二进制写模式打开 (参见 w )
ab 以二进制追加模式打开 (参见 a )
rb+ 以二进制读写模式打开 (参见 r+ )
wb+ 以二进制读写模式打开 (参见 w+ )
ab+ 以二进制读写模式打开 (参见 a+ )
处理代码如下:
def showtxt(path,outpathname,detailpath):
greenpath=r"C:\\Users\\qindongliang\\Desktop\\tnstxt\\green.txt";
redpath=r"C:\\Users\\qindongliang\\Desktop\\tnstxt\\red.txt";
redset=listtxt(redpath)
greenset=listtxt(greenpath)
print("红色词数量: ",len(redset))
print("绿色词数量: ",len(greenset))
#符合1条件的内容写入
f1=open(r"C:\Users\qindongliang\Desktop\tnstxt\result\\"+detailpath+"\\1.txt",encoding="UTF-8",mode="a+")
#符合2条件的内容写入
f2=open(r"C:\Users\qindongliang\Desktop\tnstxt\result\\"+detailpath+"\\2.txt",encoding="UTF-8",mode="a+")
#符合3条件的内容写入
f3=open(r"C:\Users\qindongliang\Desktop\tnstxt\result\\"+detailpath+"\\3.txt",encoding="UTF-8",mode="a+")
#符合4条件的内容写入
f4=open(r"C:\Users\qindongliang\Desktop\tnstxt\result\\"+detailpath+"\\4.txt",encoding="UTF-8",mode="a+")
delcount=1;
f=open(path,encoding="UTF-8",mode="r+")
fnew=open(outpathname,encoding="UTF-8",mode="a+")
flog=open(outpathname+".log",encoding="UTF-8",mode="a+")
#count=1;
for line in f:
list=line.strip().split("\t")
line=line.strip()
catalogid=list[0]
score=list[1]
keyword=clear(list[4].strip())
if keyword in redset:
if catalogid.startswith("018022") or catalogid.startswith("018035") or catalogid.startswith("014023003") :
f1.write(line+"\n")#符合1条件写入
fnew.write(line+"\n")#符合1条件写入
else:
flog.write(line+" 不符合条件1 "+"\n")
delcount=delcount+1
if keyword in greenset:
if not (catalogid.startswith("018022") or catalogid.startswith("018035") or catalogid.startswith("014023003")) :
fnew.write(line+"\n")
else:
f2.write(line+"\n")
flog.write(line+" 不符合条件2"+"\n")
delcount=delcount+1
flist=formatStrList(keyword)
if "sexy" in flist or "sex" in flist:
if catalogid.startswith("018022") or catalogid.startswith("018035") or catalogid.startswith("014023003") :
f3.write(line+"\n")
fnew.write(line+"\n")
else:
flog.write(line+" 不符合条件3"+"\n")
delcount=delcount+1
#if (keyword.find("underwear")!=-1) & keyword.find("sexy")==-1 & keyword.find("sex")==-1:
if "underwear" in flist and "sexy" not in flist and "sex" not in flist:
if catalogid.startswith("014032") :
f4.write(line+"\n")
fnew.write(line+"\n")
else:
flog.write(line+" 不符合条件4"+"\n")
delcount=delcount+1
#print(list[0]," ",list[1]," ",list[4])
#print()
flog.write("删除总数目: "+str(delcount))
f.close()
f1.close()
f2.close()
f3.close()
f4.close()
fnew.close()
flog.close()
import re
def clear(str):
str=re.sub("[\"\"\'\'+]","",str)
return str
def formatStrList(keyword):
list=keyword.split(" ")
for item in list:
item.strip();
return list
def listtxt(path):
f=open(path,encoding="UTF-8")
s=set()
for line in f:
s.add(line.strip())
f.close()
return s
path1=r"C:\\Users\\qindongliang\\Desktop\\tnstxt\\highfrequency.txt"
pathout1=r"C:\\Users\\qindongliang\\Desktop\\tnstxt\\detail\\a_highfrequency.txt"
detail1path="highfrequency"
path2=r"C:\\Users\\qindongliang\\Desktop\\tnstxt\\highfrequency_d1.txt"
pathout2=r"C:\\Users\\qindongliang\\Desktop\\tnstxt\\detail\\b_highfrequency_d1.txt"
detail2path="highfrequency_d1"
#showtxt(path1,pathout1,detail1path)
showtxt(path2,pathout2,detail2path)
来源:http://qindongliang.iteye.com/blog/2162304
标签:Python,数据处理
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
python复制文件代码实现
2022-08-29 09:28:11
Python pymongo模块用法示例
2022-05-23 20:00:21
asp超强的Server Application Error 的解决方法
2008-11-13 13:04:00
python中open函数的基本用法示例
2021-08-03 20:42:31
python语法学习print中f-string用法示例
2021-01-08 11:11:24
python对RabbitMQ的简单入门使用教程
2021-01-13 17:53:44
![](https://img.aspxhome.com/file/2023/4/93734_0s.jpg)
M1芯片Mac上Anaconda的暂时替代(miniforge)
2022-12-12 00:32:43
![](https://img.aspxhome.com/file/2023/2/93872_0s.jpg)
MySQL6.0新增特性
2010-03-25 10:08:00
在Mac下使用python实现简单的目录树展示方法
2021-03-17 03:46:39
Python中正则表达式的详细教程
2023-07-14 23:53:14
![](https://img.aspxhome.com/file/2023/1/91921_0s.png)
python中的迭代和可迭代对象代码示例
2023-02-17 21:13:24
python实现蒙特卡罗方法教程
2023-01-29 16:36:02
![](https://img.aspxhome.com/file/2023/1/92381_0s.png)
python接口自动化测试数据和代码分离解析
2022-12-29 06:00:11
![](https://img.aspxhome.com/file/2023/9/97669_0s.png)
Python导入数值型Excel数据并生成矩阵操作
2023-05-15 16:59:24
![](https://img.aspxhome.com/file/2023/3/64263_0s.jpg)
python设置中文界面实例方法
2023-08-30 18:56:30
![](https://img.aspxhome.com/file/2023/8/62278_0s.png)
交互设计中的“007功能”
2007-10-29 11:53:00
![](https://img.aspxhome.com/file/UploadPic/200710/29/2007102912114153s.jpg)
python删除列表中特定元素的几种方法
2023-12-21 02:17:12
![](https://img.aspxhome.com/file/2023/5/85315_0s.png)
python文件特定行插入和替换实例详解
2022-05-01 11:16:27
asp如何对欲删除的记录确认后再删除?
2009-11-20 18:48:00
教你如何在pycharm中使用less
2021-08-12 13:59:32
![](https://img.aspxhome.com/file/2023/9/102739_0s.png)