点击蓝字
关注UB Store公众号
UB Store
提问
Ask Questions
经常会有开发者遇到这样的问题:在Excel单元格里的数据是89.3,但是提取出来输出,却变成了:
89.29999999997157829084758497……
这该如何处理?
这其实就是浮点数计算不正确问题。类似的情况也会出现在CInt命令中。
例如,命令手册对CInt的描述是将数字类型和类数字类型的字符串四舍五入为整数数据,在实际练习时发现有时候并不会进行四舍五入。
浮点数为何经常计算不正确?如何解决?
浮点数计算问题
END
点击“阅读原文”,了解更多
别忘了点赞和在看哦

