Excel机器epsilon比较

所以我知道Excel中的机器epsilon是2 ^（ – 1022） 获取机器epsilon在Microsoft Excel中

假设我在单元格A1： =1+2^-1022

=1=A1返回TRUE

我究竟做错了什么？

Answer 1

你应该阅读所有关于这个问题的评论。 你的答案在那里：

Microsoft为XL定义了其浮点数精度限制。 最小浮点数在Microsoft支持文章ID：78113中列为2.2250738585072E-308。当我在电子表格中input此数字时，实际上存储浮点数0，但如果我存储2.2250738585073E-308（我添加了1到最不重要的数字）我可以看到所有的数字。 我看到你要求一个机器epsilon，但是因为你使用的是XL，所以你真正看到的是C / C ++浮点库epsilon。 请参阅Microsoft Developer Network xlfRegister（表单1）主题。