Excel VBA奇math结果

我遇到了一个案例select一些逻辑语句的问题。 但是，我已经通过excel追踪了一些奇怪的math。 当我期望它是假的时，以下公式在即时窗口中被评估为真

?(0.09 /0.1)<0.9 

任何人都可以解释为什么这会是？

Answer 1

在Excel中浮点运算可能会导致不准确的结果。

有关更深入的文章，请阅读每位计算机科学家有关浮点运算的知识 。

这里有一个关于StackOverflow的相关问题 。

@scott在他的评论中有解决scheme：

 ? round((0.09/0.1),1)<0.9 

Answer 2

这可能是因为vb将expression式转换为parsing为零的整数。 尝试

  ? CDBL((0.09/0.1) < 0.9