js精准计算
作者:浅笑· 时间:2024-11-20 22:40:11
var numA = 0.1;
var numB = 0.2;
alert( numA + numB );
0.1 + 0.2 = 0.30000000000000004。
计算精度误差问题(和二进制相关)。
对于浮点数的四则运算,几乎所有的编程语言都会有类似精度误差的问题,只不过在 C++/C#/Java 这些语言中已经封装好了方法来避免精度的问题,而JavaScript是一门弱类型的语言,从设计思想上就没有对浮点数有个严格的数据类型,所以精度误差的问题就显得格外突出。
我们先把 0.1 和 0.2 转换成二进制看看:
0.1 => 0.0001 1001 1001 1001…(无限循环)
0.2 => 0.0011 0011 0011 0011…(无限循环)
双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004。
如何解决呢?
首先将数乘以10的幂次方去掉小数位得到可以转化二进制的整数,计算之后再还原。
/**
** 除法函数,用来得到精确的除法结果
** 说明:JavaScript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
** 调用:accdiv(arg1,arg2)
** 返回值:arg1除以arg2的精确结果
**/
function accdiv(arg1, arg2) {
var t1 = 0, t2 = 0, r1, r2;
try {
t1 = arg1.toString().split(".")[1].length;
}
catch (e) {
}
try {
t2 = arg2.toString().split(".")[1].length;
}
catch (e) {
}
with (Math) {
r1 = Number(arg1.toString().replace(".", ""));
r2 = Number(arg2.toString().replace(".", ""));
return (r1 / r2) * Math.pow(10, t2 - t1);
}
}
/**
** 加法函数,用来得到精确的加法结果
** 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
** 调用:accAdd(arg1,arg2)
** 返回值:arg1加上arg2的精确结果
**/
function accAdd(arg1, arg2) {
var r1, r2, m, c;
try {
r1 = arg1.toString().split(".")[1].length;
}
catch (e) {
r1 = 0;
}
try {
r2 = arg2.toString().split(".")[1].length;
}
catch (e) {
r2 = 0;
}
c = Math.abs(r1 - r2);
m = Math.pow(10, Math.max(r1, r2));
if (c > 0) {
var cm = Math.pow(10, c);
if (r1 > r2) {
arg1 = Number(arg1.toString().replace(".", ""));
arg2 = Number(arg2.toString().replace(".", "")) * cm;
} else {
arg1 = Number(arg1.toString().replace(".", "")) * cm;
arg2 = Number(arg2.toString().replace(".", ""));
}
} else {
arg1 = Number(arg1.toString().replace(".", ""));
arg2 = Number(arg2.toString().replace(".", ""));
}
return (arg1 + arg2) / m;
}
/**
** 乘法函数,用来得到精确的乘法结果
** 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
** 调用:accMul(arg1,arg2)
** 返回值:arg1乘以 arg2的精确结果
**/
function accMul(arg1, arg2) {
var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
try {
m += s1.split(".")[1].length;
}
catch (e) {
}
try {
m += s2.split(".")[1].length;
}
catch (e) {
}
return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}
来源:https://www.cnblogs.com/qianxiaox/p/13744596.html
标签:js,精准计算
0
投稿
猜你喜欢
python使用socket连接远程服务器的方法
2022-12-12 23:55:16
Pytorch 如何实现常用正则化
2022-11-02 22:15:14
Python中的三目(元)运算符详解
2023-12-06 01:20:49
ASP.NET Core基础之Main方法讲解
2024-06-05 15:43:21
详谈js遍历集合(Array,Map,Set)
2024-04-16 09:29:53
SQL Server 海量数据导入的最快方法
2024-01-16 06:23:25
Python获取好友地区分布及好友性别分布情况代码详解
2023-05-12 12:59:35
介绍Python的Django框架中的QuerySets
2021-04-19 18:58:32
Python实现PS滤镜的万花筒效果示例
2023-11-15 10:17:25
python爬虫面试宝典(常见问题)
2023-02-27 19:46:01
怎样使MySQL在攻击者面前保持安全
2008-11-17 20:09:00
vue使用watch 观察路由变化,重新获取内容
2024-05-05 09:11:16
干涉MySQL优化器使用hash join的方法
2024-01-21 17:29:52
Django框架会话技术实例分析【Cookie与Session】
2021-06-24 03:41:53
40个你可能不知道的Python技巧附代码
2021-09-26 13:56:58
MySQL数据库闭包Closure Table表实现示例
2024-01-21 23:29:24
Jsp+Servlet实现简单登录注册查询
2023-07-15 18:08:08
Python OpenCV图像处理之图像滤波特效详解
2021-06-07 04:36:02
tensorflow实现打印ckpt模型保存下的变量名称及变量值
2021-07-02 21:19:25
vue项目中data数据之间互相访问的实现
2024-05-28 15:51:43