关于Python中浮点数精度处理的技巧总结

作者:杰瑞26 时间:2021-12-28 15:12:53 

前言

最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:

关于Python中浮点数精度处理的技巧总结

出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。

比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:

0.00011001100110011001100110011001100110011001100110011001100

而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?

【方法一】利用round方法:

关于Python中浮点数精度处理的技巧总结

【方法二】利用decimal模块:

关于Python中浮点数精度处理的技巧总结

来源:http://blog.csdn.net/jerry_1126/article/details/74079819

标签:python,浮点数,精度处理
0
投稿

猜你喜欢

  • Python实现base64编码

    2023-10-01 02:34:50
  • [译稿]Web 字体的未来

    2008-07-31 17:50:00
  • asp如何动态生成WBMP?

    2009-11-18 20:36:00
  • Python迭代器Iterable判断方法解析

    2023-06-11 15:37:19
  • SQLSERVER 2005中使用sql语句对xml文件和其数据的进行操作(很全面)

    2024-01-14 19:31:21
  • 让字体美起来

    2011-06-14 09:50:21
  • JS数组Array常用方法汇总+实例

    2024-04-30 10:42:02
  • vue+element树组件 实现树懒加载的过程详解

    2024-05-25 15:19:36
  • Python实现的简单计算器功能详解

    2023-11-17 09:34:08
  • go语言base64用法实例

    2024-04-26 17:22:04
  • Python的进程间通信详解

    2021-07-16 16:11:25
  • 详解利用Python scipy.signal.filtfilt() 实现信号滤波

    2022-09-23 21:23:03
  • MySQL自定义函数简单用法示例

    2024-01-20 12:47:17
  • Python数据分析之pandas读取数据

    2023-06-17 12:53:59
  • ODBC的保留字有哪些?

    2009-10-28 18:34:00
  • 100行代码实现一个vue分页组功能

    2024-05-05 09:23:23
  • Vue.js框架实现购物车功能

    2024-04-30 10:46:59
  • js刷新页面方法大全

    2023-08-06 21:05:34
  • Django中如何用xlwt生成表格的方法步骤

    2023-07-17 07:47:12
  • Web 标准设计实践:Google 的首页

    2008-10-12 12:14:00
  • asp之家 网络编程 m.aspxhome.com