今天弄到js计算成比例缩放功能,发现一有趣的问题,我只要缩小了再放大就不可能回到原来的样子(成比例的),细细研究发现js在计算147*1.1的时候结果居然为161.70000000000002!你把这个值赋给img后,img只接受整数也就是161,后面再去缩小乘0.9的时候为144.9,偏差就很大了。缩小一次就偏3像素,无法接受。
js浮点误差似乎稍微恐怖了点,^_^
研究后的解决方法:把比例先乘10再把结果除10,不管小数点后面是几都给整数上加1。每缩小一次都这样执行。
缩小同理,乘9最后再把结果除10,整数上加1,误差会小很多。但不是没有误差,还是有的,相比之前小了很多很多而已,不知道哪位有没有无误差的方法,指点我一下。 呵呵 钻死理了。
ps:
js的Math.ceil()方法可以取整,只要有小数位直接给整数位+1.
浮点数运算的误差原因:
很正常的,浮点数运算的误差。哪种语言都这样,只是误差大小不同而已。
用解析字符串的方式移动小数点,转化为整数,完毕后,在把小数点复位。
浮点数运算的时候,先转化为二进制,用二进制来算,结果再转回十进制
例如 :求1038.1-1000
1038.1=10000001110.0001100110011001100110011001100110011001100.....
1000= 1111101000
1038.1转化为二进制是个无限循环小数,1100是循环节,只能取近似值,误差就是这里产生的
Tag标签: js计算,缩放