关于Python中浮点数精度处理的技巧总结
作者:杰瑞26 时间:2021-12-28 15:12:53
前言
最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:
出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。
比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:
0.00011001100110011001100110011001100110011001100110011001100
而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?
【方法一】利用round方法:
【方法二】利用decimal模块:
来源:http://blog.csdn.net/jerry_1126/article/details/74079819
标签:python,浮点数,精度处理
0
投稿
猜你喜欢
Python实现base64编码
2023-10-01 02:34:50
[译稿]Web 字体的未来
2008-07-31 17:50:00
asp如何动态生成WBMP?
2009-11-18 20:36:00
Python迭代器Iterable判断方法解析
2023-06-11 15:37:19
SQLSERVER 2005中使用sql语句对xml文件和其数据的进行操作(很全面)
2024-01-14 19:31:21
让字体美起来
2011-06-14 09:50:21
JS数组Array常用方法汇总+实例
2024-04-30 10:42:02
vue+element树组件 实现树懒加载的过程详解
2024-05-25 15:19:36
Python实现的简单计算器功能详解
2023-11-17 09:34:08
go语言base64用法实例
2024-04-26 17:22:04
Python的进程间通信详解
2021-07-16 16:11:25
详解利用Python scipy.signal.filtfilt() 实现信号滤波
2022-09-23 21:23:03
MySQL自定义函数简单用法示例
2024-01-20 12:47:17
Python数据分析之pandas读取数据
2023-06-17 12:53:59
ODBC的保留字有哪些?
2009-10-28 18:34:00
100行代码实现一个vue分页组功能
2024-05-05 09:23:23
Vue.js框架实现购物车功能
2024-04-30 10:46:59
js刷新页面方法大全
2023-08-06 21:05:34
Django中如何用xlwt生成表格的方法步骤
2023-07-17 07:47:12
Web 标准设计实践:Google 的首页
2008-10-12 12:14:00