Python decimal模块使用方法详解

作者:wenbin_ouyang 时间:2022-09-06 12:04:33 

decimal 模块:decimal意思为十进制,这个模块提供了十进制浮点运算支持

1.可以传递给Decimal整型或者字符串参数,但不能是浮点数据,因为浮点数据本身就不准确。

2.要从浮点数据转换为Decimal类型

from decimal import *
Decimal.from_float(12.222)
# 结果为Decimal('12.2219999999999995310417943983338773250579833984375')

3.通过设定有效数字,限定结果样式

from decimal import *
getcontext().prec = 6
Decimal(1)/Decimal(7)
# 结果为Decimal('0.142857'),六个有效数字

4.四舍五入,保留几位小数

from decimal import *
Decimal('50.5679').quantize(Decimal('0.00'))
# 结果为Decimal('50.57'),结果四舍五入保留了两位小数

5.Decimal 结果转化为string

from decimal import *
str(Decimal('3.40').quantize(Decimal('0.0')))
# 结果为'3.4',字符串类型

Python3中decimal处理计算精度问题示例


#!/usr/bin/python3
# coding:utf-8
import decimal
from decimal import Decimal, getcontext

def demo():
 """
 取整问题:
 ROUND_CEILING 总是趋向无穷大向上取整
ROUND_DOWN总是趋向0取整
ROUND_FLOOR 总是趋向负无穷大向下取整
ROUND_HALF_DOWN如果最后一个有效数字大于或等于5则朝0反方向取整;否则,趋向0取整
ROUND_HALF_EVEN类似于ROUND_HALF_DOWN,不过,如果最后一个有效数字值为5,则会检查前一位。
         偶数值会导致结果向下取整,奇数值导致结果向上取整
ROUND_HALF_UP 类似于ROUND_HALF_DOWN,不过如果最后一位有效数字为5,值会朝0的反方向取整
ROUND_UP朝0的反方向取整
ROUND_05UP如果最后一位是0或5,则朝0的反方向取整;否则向0取整
 """

# 1.常规计算
 getcontext().prec = 9
 r1 = Decimal(1) / Decimal(3)
 print("r1 ", r1) # r1 0.333333333

# 2.但是getcontext().prec会包含小数点前面的所有长度,当前面长度有变化时并不能固定控制小数点后的位数
 r2 = Decimal(10) / Decimal(3)
 print("r2 ", r2) # r2 3.33333333

# 3.想要固定控制小数点后面的位数则需要使用decimal.quantize(Decimal('0.00000000')),注意不能超过getcontext().prec的位数
 r3 = Decimal(1) / Decimal(3)
 print("r3 ", r3.quantize(Decimal('0.00000000'))) # r3 0.33333333
 r4 = Decimal(10) / Decimal(3)
 print("r4 ", r4.quantize(Decimal('0.00000000'))) # r4 3.33333333
 r5 = Decimal(10) / Decimal(str(1.5))
 print("r5 ", r5.quantize(Decimal('0.00000000'))) # r5 6.66666667

# 4.向上取整
 getcontext().rounding = getattr(decimal, 'ROUND_CEILING') # 总是趋向无穷大向上取整
 r6 = Decimal(10) / Decimal(str(1.5)) # r6 6.66666667
 print("r6 ", r6.quantize(Decimal('0.00000000')))
 r7 = Decimal(10) / Decimal(3) # r7 3.33333334
 print("r7 ", r7.quantize(Decimal('0.00000000')))

# 5.向下取整
 getcontext().rounding = getattr(decimal, 'ROUND_FLOOR') # 总是趋向无穷大向下取整
 r8 = Decimal(10) / Decimal(str(1.5)) # r8 6.66666666
 print("r8 ", r8.quantize(Decimal('0.00000000')))
 r9 = Decimal(10) / Decimal(3) # r9 3.33333333
 print("r9 ", r9.quantize(Decimal('0.00000000')))

if __name__ == '__main__':
 demo()

来源:https://www.cnblogs.com/xy-ouyang/p/13040615.html

标签:Python,decimal,模块
0
投稿

猜你喜欢

  • 简单理解Python中基于生成器的状态机

    2023-04-14 17:35:55
  • python基于moviepy实现音视频剪辑

    2023-08-21 14:56:47
  • pytest自动化测试中的fixture的声明和调用

    2022-08-24 00:28:10
  • Python中浅拷贝copy与深拷贝deepcopy的简单理解

    2022-06-23 18:14:10
  • python基础教程项目四之新闻聚合

    2021-10-03 01:31:33
  • 详解微信小程序「渲染层网络层错误」的解决方法

    2024-04-22 13:01:23
  • 基于django ManyToMany 使用的注意事项详解

    2022-10-16 00:29:33
  • Python中Parser的超详细用法实例

    2022-05-02 10:16:30
  • 利用Python实现自动化监控文件夹完成服务部署

    2023-03-15 00:02:04
  • ThinkPHP结合AjaxFileUploader实现无刷新文件上传的方法

    2024-04-17 10:39:54
  • python反编译教程之2048小游戏实例

    2023-07-24 08:04:47
  • Django文件上传与下载(FileFlid)

    2023-07-10 11:33:33
  • pip已经安装好第三方库但pycharm中import时还是标红的解决方案

    2022-05-25 00:50:16
  • Mysql CAST函数的具体使用

    2024-01-16 16:17:04
  • Pandas按周/月/年统计数据介绍

    2022-01-15 18:49:14
  • OpenCV如何去除图片中的阴影的实现

    2023-07-08 22:49:29
  • 浅谈javascript中onbeforeunload与onunload事件

    2024-04-19 09:46:08
  • 流动的线条 —— 中国汉字书法之美

    2009-10-30 18:15:00
  • php之app消息推送案例教程

    2023-06-15 00:42:02
  • python通过pil模块将raw图片转换成png图片的方法

    2021-08-25 00:37:31
  • asp之家 网络编程 m.aspxhome.com