脚本宝典收集整理的这篇文章主要介绍了Python 科学计算精度需要注意的问题，脚本宝典觉得挺不错的，现在分享给大家，也给大家做个参考。
对于金融方面的计算和分析，往往会忽略科学计算方面精度控制的问题。
该问题针对于 python2 & Python3
这里我们来看一个问题：
num=0.0
for i in range(10):
num+=0.1
PRint(num)In [14]: num
Out[14]: 0.9999999999999999
这个问题可以参考 floatintpint
比如：
>>>.1 + .1 + .1 == .3
>>>False如果我们利用round进行数据处理，有时候会得到意外的结果。
>>> round(23.505,2)
23.5而结果是23.5不是23.51，当处理数据精度的时候往往会忽略精度方面的度量。
利用decimal库解决问题：
From decimal import Decimal
# Here are all your options for rounding:
# ROUND_05UP ROUND_DOWN ROUND_HALF_DOWN ROUND_HALF_UP
# ROUND_CeiLING ROUND_FLOOR ROUND_HALF_EVEN ROUND_UP
Decimal("12.505").quantize(Decimal("0.00"),ROUND_HALF_UP)
output: Decimal('12.51')利用python decimal更好的控制精度，而不是用round.
以上是脚本宝典为你收集整理的Python 科学计算精度需要注意的问题全部内容，希望文章能够帮你解决Python 科学计算精度需要注意的问题所遇到的问题。
本图文内容来源于网友网络收集整理提供，作为学习参考使用，版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ：384754419，请注明来意。