有效数字的四则运算(乘除法)
作者:未知来源:《高中物理学生实验》时间:2006-5-2 15:52:22阅读:
字号:小|大
乘除法的运算规则规定:以参与运算的分量中有效数字位数最少的分量为准,其它分量(包括常数)保留到比上述分量的有效数字多一位,经过运算,最后结果在一般情况下可取到与该最少位数的分量位数相同,某些情况下则要多留一位。
例如:N=ABC/DE,A=28.4,B=3.15673,C=0.0042,D=625.4,E=3.425,其中C的有效数字位数最小,是两位,则其余各量取三位,因此
N=(28.4×3.16×0.0042)/625×3.43=1.8×10- 4
相关文章:
|