Excel总和不正确
我想在Excel中总结这些数字:
232.270000000000000000000 252527.770000000000000000000 126285.000000000000000000000 -378856.000000000000000000000 631426.000000000000000000000 126285.000000000000000000000 126285.000000000000000000000 126287.000000000000000000000 126285.000000000000000000000 126285.000000000000000000000 126285.000000000000000000000 -1389137.000000000000000000000
总和(即Sum(A1:A13)
给出以下结果: 190.040000000037000000
希望你看到我的问题(我的结果的小数点是什么“37000000”?)
舍入错误,如这个来自使用双数据types而不是十进制数据types。 结果是计算运行得更快,但是在小数点后面有许多数字的情况下精度会受损。 避免这种错误的唯一方法就是在计算完成后再次乘以并将其引入,从而消除浮点数。
这个错误来自你的数字.27和.77 。 这是浮点精度问题的结果。
例如,你不能用二进制表示0.1,0.01的值。 在24位精度上,0.1的实际值实际上是0.100000001490116119384765625 。
所以在你的例子中也是如此。