js运算精度丢失的2个解决方法

作者:AJiu~~ 时间:2024-04-10 10:38:02 

当两个数包含小数进行运算的时候结果并不是正确的结果,而是出现了精度丢失的情况(小数点后面出现很多位)。

问题所在:

res.orderColorDeliveryRecords.forEach((item) => {
                       //计算金额
                       item.money = (item.price * item.amount);
                       if(!item.cusTypeName){
                           item.cusTypeName = 'N/A';
                       }
                       this.record.money += parseFloat(item.money);
                   });

界面显示:

js运算精度丢失的2个解决方法

解决方法1(低精度):

在运算结果的后面加上toFixed(),精度要求不高的情况下使用;

toFixed介绍:

        用法: number.toFixed( value )

        参数:此函数参数列表有一个参数,他表示小数点后面精确的位数。

       返回值:他以字符串表示形式返回一个数字。

代码实现:

res.orderColorDeliveryRecords.forEach((item) => {
   item.money = this.actionOperationResult(item.price , item.amount);
   if(!item.cusTypeName){
       item.cusTypeName = 'N/A';
   }
   this.record.money += parseFloat(item.money);
});

界面显示:

js运算精度丢失的2个解决方法

小结:

该解决方法只适用于低精度运算。并且有弊端,就如上图界面显示一样,最终运算结果是没有小数位的,还是将小数位给显示出来的。如果不在乎这些还是可以使用的。

解决方法2(高精度):

先将运算值 x 10^n 转换成整数进行运算,最后将结果还原。精度要求高的推荐使用该解决方法。(代码实现只实现了乘法,需要其他运算的可以自行更改一下)

代码实现:

actionOperationResult(val1, val2){
   const p = this.actionOperation(val1, val2);
   return ((val1 * p) * (val2 * p)) / (p * p);
},
actionOperation(val1, val2){
   const len1 = val1.toString().length - val1.toString().indexOf(".") - 1;
   const len2 = val2.toString().length - val2.toString().indexOf(".") - 1;
   const p = Math.max(len1, len2);
   // 避免最终求出结果的长度大于最大长度的时候导致精度丢失 开启下面
   // p += p - Math.min(len1, len2);
   return  Math.pow(10, p);
}

测试1:

item.money = this.actionOperationResult(item.price , item.amount);

 界面显示:

js运算精度丢失的2个解决方法

 测试2:

const test  = this.actionOperationResult(123.456789435252 , 42.697894);
const test1  = this.actionOperationResult(4342.57897 , 64789.337489);
const test2  = this.actionOperationResult(78.7897398 , 67.768978943);
console.log("test:",test);
console.log("test1:",test1);
console.log("test2:",test2);

输出结果:

js运算精度丢失的2个解决方法

小结:

该解决方法适用于高精度运算,既解决了精度丢失问题,又解决了我想要的最终结果是整数不显示小数位的问题。如果要求高精度请选择该解决方案。

来源:https://blog.csdn.net/ZWP_990527/article/details/128109063

标签:js,运算,精度丢失
0
投稿

猜你喜欢

  • SQL查询的底层运行原理深入分析

    2024-01-21 04:43:49
  • 61条面向对象设计的经验原则

    2008-05-08 13:05:00
  • 基于javascript实现tab切换特效

    2024-02-24 12:31:58
  • Oracle例外用法实例详解

    2024-01-16 21:46:23
  • python分批定量读取文件内容,输出到不同文件中的方法

    2021-10-05 21:29:30
  • Go中过滤范型集合性能示例详解

    2024-04-27 15:27:35
  • 微信小程序前端如何调用python后端的模型详解

    2023-03-12 06:29:13
  • 使用 use re debug 查看正则表达式的匹配过程

    2022-05-03 01:00:59
  • 在Oracle PL/SQL中游标声明中表名动态变化的方法

    2009-02-28 10:39:00
  • 使用Python爬了4400条淘宝商品数据,竟发现了这些“潜规则”

    2021-10-24 09:49:02
  • MySQL的性能调优工具:比mysqlreport更方便的tuning-primer.sh

    2008-12-08 08:37:00
  • 详解python中 os._exit() 和 sys.exit(), exit(0)和exit(1) 的用法和区别

    2023-11-20 14:14:52
  • 使用python实现抓取中国银行外汇牌价首页数据实现

    2021-11-28 02:05:49
  • python实现对excel中需要的数据的单元格填充颜色

    2023-03-04 13:02:39
  • Python模块、包(Package)概念与用法分析

    2022-09-02 13:06:22
  • Python自定义函数实现求两个数最大公约数、最小公倍数示例

    2023-04-11 20:28:21
  • 一文让你快速了解JavaScript栈

    2024-04-29 13:22:04
  • 统计出现最多的字符次数的js代码

    2023-10-09 18:58:07
  • ​​​​​​​如何利用python破解zip加密文件

    2022-11-27 17:51:30
  • sogou地图API用法实例教程

    2024-04-16 10:30:08
  • asp之家 网络编程 m.aspxhome.com