您现在的位置: 365建站网 > 365文章 > js计算的误差

js计算的误差

文章来源:365jz.com 点击数:548 更新时间:2009-09-13 10:38
      今天弄到js计算成比例缩放功能,发现一有趣的问题,我只要缩小了再放大就不可能回到原来的样子(成比例的),细细研究发现js在计算147*1.1的时候结果居然为161.70000000000002!你把这个值赋给img后,img只接受整数也就是161,后面再去缩小乘0.9的时候为144.9,偏差就很大了。缩小一次就偏3像素,无法接受。
js浮点误差似乎稍微恐怖了点,^_^

研究后的解决方法:把比例先乘10再把结果除10,不管小数点后面是几都给整数上加1。每缩小一次都这样执行。
缩小同理,乘9最后再把结果除10,整数上加1,误差会小很多。但不是没有误差,还是有的,相比之前小了很多很多而已,不知道哪位有没有无误差的方法,指点我一下。  呵呵   钻死理了。
   ps:
      js的Math.ceil()方法可以取整,只要有小数位直接给整数位+1.

浮点数运算的误差原因:

很正常的,浮点数运算的误差。哪种语言都这样,只是误差大小不同而已。  
  用解析字符串的方式移动小数点,转化为整数,完毕后,在把小数点复位。  
  浮点数运算的时候,先转化为二进制,用二进制来算,结果再转回十进制  
  例如   :求1038.1-1000  
  1038.1=10000001110.0001100110011001100110011001100110011001100.....    
  1000=       1111101000  
  1038.1转化为二进制是个无限循环小数,1100是循环节,只能取近似值,误差就是这里产生的
Tag标签: js计算,缩放

生产内容,同时打通搜索引擎(SEO)与AI搜索引擎(GEO)流量入口的软件! 点击进入365建站器 »

您可能感兴趣的文章