大数跨境
0
0

开发者问答丨RPA浮点数为何经常计算不正确?

开发者问答丨RPA浮点数为何经常计算不正确? UB Store
2023-03-24
2
导读:有问必答

点击蓝字

关注UB Store公众号

UB Store


提问

Ask Questions

经常会有开发者遇到这样的问题:在Excel单元格里的数据是89.3,但是提取出来输出,却变成了:

89.29999999997157829084758497……

这该如何处理?


这其实就是浮点数计算不正确问题。类似的情况也会出现在CInt命令中。


例如,命令手册对CInt的描述是将数字类型和类数字类型的字符串四舍五入为整数数据,在实际练习时发现有时候并不会进行四舍五入。


浮点数为何经常计算不正确?如何解决?



浮点数计算问题



END

点击“阅读原文”,了解更多

别忘了点赞在看

【声明】内容源于网络
0
0
UB Store
让一部分人先用好RPA机器人
内容 1242
粉丝 0
UB Store 让一部分人先用好RPA机器人
总阅读34
粉丝0
内容1.2k