pymysql 插入数据 转义处理方式
作者:匿名姐姐 时间:2024-01-23 08:43:29
最近用pymysql把一些质量不是很高的数据源导入mysql数据库的时候遇到一点问题,主要是遇到像 \ 这样的具有特殊意义的字符时比较难处理。这里有一个解决方案
基本环境
python3
pymysql
linux
问题描述
插入(查询)数据时遇到一些特殊字符会使得程序中断。操作失败。比如 \这样的转义字符
解决方案
插入(查询)之前用 connection.escape(str)处理一下即可
代码示例
import pymongo
sql_pattern = "select * from my_collection where name = %s" #注意,这里直接用%s,不要给%s加引号,因为后面转移过后会自动加引号
name = "xxx\xxx"
name = connection.escape(name)
sql = sql_pattern%name
print(sql) # select * from my_collection where name = 'xxx\\xxx'
with connection.cursor() as cursor:
try:
cursor.execute(sql)
except:
print(sql)
pass
for r in cursor:
print(r)
补充拓展:利用 pymysql 往数据库插入百万条数据
思路:
先创建一个自定义的数据库表;
生成一个列表,列表中的数据应该和数据库表中的每一列对应;
利用cursor.executemany 批量插入列表中的数据。
注意点:
批量添加数据时,数据格式必须list[tuple(),tuple(),tuple()] 或者tuple(tuple(),tuple(),tuple())
代码解析:
# -*- coding: utf-8 -*-
# Author:benjamin
import pymysql
# 创建连接
conn = pymysql.connect(host='192.168.214.128', port=3306, user='root', passwd='ben123', db='db2')
# 创建游标
cursor = conn.cursor()
def createTable():
'''
创建数据库表
:return:
'''
try:
sql = '''
create table mytable (
nid int not null auto_increment primary key,
name varchar(255) not null,
email varchar(255) not null,
extra text
)engine=innodb default charset=utf8
'''
cursor.execute(sql)
conn.commit()
print('create table ok!')
except Exception as e:
print(e)
def myList(value):
'''
生成一个列表,[('admin1', 'admin1qq.com', 'hahaadmin1'),...]
:param value: 自定义的数据量
:return: new_list
'''
new_list = [] # 新建一个空列表用来存储元组数据
for i in range(1, value + 1):
name = 'admin'+ str(i)
email = name + '@qq.com'
extra = 'I am '+ name
tup = (name,email,extra) # 构造元组
new_list.append(tup) # [(),(),()...]
print("*"*5+"generate list ok"+"*"*5)
return new_list
def myInsert(newList):
'''
数据库插入
:param newList: 传入的列表数据
:return:
'''
try:
sql = "insert into mytable(name,email,extra) values(%s,%s,%s)" # 要插入的数据
cursor.executemany(sql,newList) # 执行插入数据
conn.commit()
cursor.close()
conn.close()
print('insert ok')
except Exception as e:
print(e)
if __name__ == '__main__':
# 创建数据表
createTable()
# 选择要插入的数据量
value = 1000000 # 定义数据量
newList = myList(value)
myInsert(newList)
来源:https://blog.csdn.net/u013075468/article/details/51455745
标签:pymysql,插入,数据,转义
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
你不知道的Vue技巧之--开发一个可以通过方法调用的组件(推荐)
2024-04-30 08:46:07
Python人工智能学习PyTorch实现WGAN示例详解
2022-10-20 18:49:32
![](https://img.aspxhome.com/file/2023/0/95790_0s.png)
MySQL中连接查询和子查询的问题
2024-01-19 04:27:32
![](https://img.aspxhome.com/file/2023/0/78100_0s.png)
Tensorflow使用支持向量机拟合线性回归
2021-01-20 03:38:42
![](https://img.aspxhome.com/file/2023/7/92517_0s.jpg)
在ASP处理程序时,进度显示
2008-08-04 13:27:00
JavaScript 学习笔记之语句
2024-06-05 09:53:33
![](https://img.aspxhome.com/file/2023/7/122167_0s.gif)
python实现矩阵乘法
2023-11-03 07:41:10
Mysql 索引 BTree 与 B+Tree 的区别(面试)
2024-01-13 03:10:32
![](https://img.aspxhome.com/file/2023/2/102382_0s.png)
透明度设置
2009-12-12 18:51:00
MySQL数据库对dvbbs.php全文搜索的完全分析
2010-06-11 13:25:00
SQL中的连接查询详解
2024-01-25 08:06:40
python Django编写接口并用Jmeter测试的方法
2021-12-07 21:47:09
![](https://img.aspxhome.com/file/2023/2/68372_0s.png)
C#连接SQL数据库和查询数据功能的操作技巧
2024-01-19 03:31:03
![](https://img.aspxhome.com/file/2023/5/116545_0s.jpg)
python生成遍历暴力破解密码的方法
2021-07-02 21:28:54
![](https://img.aspxhome.com/file/2023/6/107056_0s.png)
Python简单获取网卡名称及其IP地址的方法【基于psutil模块】
2022-10-07 19:52:15
一起来学习一下python的数据类型
2023-01-03 08:33:46
基于java线程池读取单个SQL数据库表
2024-01-25 08:17:00
ACCESS如何打印窗体中当前显示的记录
2008-11-20 16:31:00
python编程之requests在网络请求中添加cookies参数方法详解
2023-07-03 00:48:23
使用OpenCV实现仿射变换—旋转功能
2021-01-20 05:57:48
![](https://img.aspxhome.com/file/2023/2/121042_0s.jpg)