JavaScript使用IEEE 标准进行二进制浮点运算产生莫名错误的解决方法
时间:2021-03-06 10:11:58|栏目:JavaScript代码|点击: 次
javascript做带小数的计算时,会出现9的循环,以下方法帮助解决。
第一个参数是需要处理的数值,第二个参数是需要保留的小数位数。自家项目里面就这么用了~
function round(v,e){
var t=1;
for(;e>0;t*=10,e--);
for(;e<0;t/=10,e++);
return Math.round(v*t)/t;
}
第一个参数是需要处理的数值,第二个参数是需要保留的小数位数。自家项目里面就这么用了~
复制代码 代码如下:
function round(v,e){
var t=1;
for(;e>0;t*=10,e--);
for(;e<0;t/=10,e++);
return Math.round(v*t)/t;
}
栏 目:JavaScript代码
本文标题:JavaScript使用IEEE 标准进行二进制浮点运算产生莫名错误的解决方法
本文地址:http://www.codeinn.net/misctech/75362.html






