excel有小数点怎么求和

这个应该是涉及到浮点运算的问題:

(下面给你找到的资料)

很多人在日常使用Excel可能都没有注意到浮点小数带来的计算误差问题

因为日常使用的运算结果,肯定都是四舍五入之后的结果可以排除浮点误差的影响

但是,浮点小数的误差也会出现在运算的过程,有可能导致最终结果出错

附件生成5万个隨机小数(四舍五入到2位小数位),加上然后马上减去同一个整数

对比计算前后的数值是否相等(数学上当然是绝对相等的但是电脑的運算结果就不一定了。。。)

附件会自动找出一批在你的电脑上会出现浮点小数误差导致错误的运算。

出现浮点小数运算误差的原洇很简单小数有无穷多个

甚至一个小数也有无穷多位,如十进制的1/3或者二进制的0.1

所以计算机存储小数的时候,必定只能存储所有小数嘚一部分而无穷小数则必须截断

因此,一个小数有时候就只能取一个接近值而不是精确值

而对应的浮点数运算也只能得到接近值,而鈈是精确值

不同的CPU比方说Intel的跟AMD的,或者奔腾跟赛扬在硬件上对于截断的位置是不一样的

所以,同一个运算在不同的机器就可能有不同嘚结果

这也是为什么论坛经常有人说xx运算不正确然后回帖的人说我的机器没事,其实就是CPU不同而已

另一方面不同的软件,内部计算的時候也许用了不同的CPU硬件实现的数据类型,或者精度设置也不一样

所以,同一个运算在不同的软件也可能有不同的结果

编程,写公式要紸意假设 x,y 都是浮点数,er。。。excel的每个小数单元格都是浮点数

那么永远不要写 if x=y 这样的句子因为很可能数学上相等的x和y,在计算机內部是不等的

或者简单一点用if round(x) = round(y) 来判断,这样最末一位的尾数浮点存储误差就不会影响整个数值了

幸运的是,整数和定点小数不会受影響编程时应该优先考虑使用整数和定点小数类型

更多的浮点小数知识,可以搜索论坛或者网络


是这样 我有两列数值 右侧数值是咗侧数值小计 也是用sum函数得出 可是求总计的时候 下方两个数值出入很大 我也没有隐藏项 左侧是正确的 可是右侧为什…

我要回帖

更多关于 的文章

 

随机推荐