欢迎您访问365答案网,请分享给你的朋友!
生活常识 学习资料

Python解决浮点数float运算精度问题

时间:2023-04-28
 连个float类型的数据进行比较时,会显示对应的十六位结果,而影响精度,所以在进行比较时,导入Decimal进行操作

from decimal import DecimalDecimal(number1)Decimal(number2)

案例:

值得注意的是,数据的类型需要为str格式

# 数据1number1 = 4.2# 数据2number2 = 4.3# 用普通方式进行计算print(number2-number1)# 输出结果# 0.09999999999999964#==================================# 采用Decimal# 数据1number1 = '4.2'# 数据2number2 = '4.3'print(Decimal(number2) - Decimal(number1))# 输出结果# 0.1

Copyright © 2016-2020 www.365daan.com All Rights Reserved. 365答案网 版权所有 备案号:

部分内容来自互联网,版权归原作者所有,如有冒犯请联系我们,我们将在三个工作时内妥善处理。