Quote:
引用第0楼willxiao于2009-11-06 16:22发表的 有效数字的混合运算 :
教材上写的
为防止误差迅速累加,对参加运算的数据合中间运算结果可先多保留一位有效数字,
运算后将结果修约成与最大误差数据相当的位数.
例如:
(673-119+119×0.094)×(12.8-9.5)
.......
第一位数字等于或者大于8,有效数字总位数可多算一位,0.094确实可以看成是三位有效数字,同样
9.5也可以看成是3位有效数字,可以看成是9.51,9.52直到9.54,但是!!在12.8-9.5这个计算里,按
照加法规则,以绝对误差最大的数据为准,修约其他数据,使各数据的绝对误差一致后在进行加减计
算,一般以小数点后位数最少的数据为准,所以9.5这个三位有效数字,应该先修约到9.5两位有效数
字,小数点后一位就可以,再进行加减计算,然后得出结果3.3也是小数点后一位,绝对误差保持一
致。但是还有一个数字,而100.11-12.8,按照加减法则,应该是87.3 (100.1-12.8)。这是我看过多篇有
效数字的运算法则后,重新对这个计算法则的理解。
[ 此贴被handaixon在2009-11-11 10:21重新编辑 ]