javascript代码实例教程-有关JS小数运算精度问题的讲解

发布时间:2018-12-29 发布网站:脚本宝典
脚本宝典收集整理的这篇文章主要介绍了javascript代码实例教程-有关JS小数运算精度问题的讲解脚本宝典觉得挺不错的,现在分享给大家,也给大家做个参考。
小宝典致力于为广大程序猿(媛)提供高品质的代码服务,请大家多多光顾小站,小宝典在此谢过。

我们可能在平时运算过程中碰到以下类似情况:

0.1 + 0.2 结果是 0.30000000000000004

0.0003 * 10 结果是 0.0029999999999999996

0.003 / 10 结果是 0.00030000000000000003

原因在于:在计算机内部,使用二进制浮点数并不能准确地表示像 0.1, 0.2 或 0.3 这样的数字,所以当编码或解释代码时,像“0.1”其实已经舍入为与0.1最接近的数字,即使在计算发生之前已经会导致小的舍入误差(是的,所有语言都是这样)

如果不想看到这些额外的小数位数:在显示时,我们可以用toFixed()或toPRecision() 之类将结果格式化为固定的小数位数

toFixed(num)可把 Number 四舍五入为指定小数位数的数字

toPrecision(num)可在对象的值超出指定位数时将其转换为指数计数法

觉得可用,就经常来吧! 脚本宝典 欢迎评论哦! js脚本,巧夺天工,精雕玉琢。小宝典献丑了!

脚本宝典总结

以上是脚本宝典为你收集整理的javascript代码实例教程-有关JS小数运算精度问题的讲解全部内容,希望文章能够帮你解决javascript代码实例教程-有关JS小数运算精度问题的讲解所遇到的问题。

如果觉得脚本宝典网站内容还不错,欢迎将脚本宝典推荐好友。

本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ:384754419,请注明来意。