您现在的位置: 365建站网 > 365文章 > js计算的误差

js计算的误差

文章来源:365jz.com     点击数:470    更新时间:2009-09-13 10:38   参与评论
      今天弄到js计算成比例缩放功能,发现一有趣的问题,我只要缩小了再放大就不可能回到原来的样子(成比例的),细细研究发现js在计算147*1.1的时候结果居然为161.70000000000002!你把这个值赋给img后,img只接受整数也就是161,后面再去缩小乘0.9的时候为144.9,偏差就很大了。缩小一次就偏3像素,无法接受。
js浮点误差似乎稍微恐怖了点,^_^

研究后的解决方法:把比例先乘10再把结果除10,不管小数点后面是几都给整数上加1。每缩小一次都这样执行。
缩小同理,乘9最后再把结果除10,整数上加1,误差会小很多。但不是没有误差,还是有的,相比之前小了很多很多而已,不知道哪位有没有无误差的方法,指点我一下。  呵呵   钻死理了。
   ps:
      js的Math.ceil()方法可以取整,只要有小数位直接给整数位+1.

浮点数运算的误差原因:

很正常的,浮点数运算的误差。哪种语言都这样,只是误差大小不同而已。  
  用解析字符串的方式移动小数点,转化为整数,完毕后,在把小数点复位。  
  浮点数运算的时候,先转化为二进制,用二进制来算,结果再转回十进制  
  例如   :求1038.1-1000  
  1038.1=10000001110.0001100110011001100110011001100110011001100.....    
  1000=       1111101000  
  1038.1转化为二进制是个无限循环小数,1100是循环节,只能取近似值,误差就是这里产生的
Tag标签: js计算,缩放

如对本文有疑问,请提交到交流论坛,广大热心网友会为你解答!! 点击进入论坛

发表评论 (470人查看0条评论)
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
昵称:
最新评论
------分隔线----------------------------

快速入口

· 365软件
· 杰创官网
· 建站工具
· 网站大全

其它栏目

· 建站教程
· 365学习

业务咨询

· 技术支持
· 服务时间:9:00-18:00
365建站网二维码

Powered by 365建站网 RSS地图 HTML地图

copyright © 2013-2024 版权所有 鄂ICP备17013400号