有效数字运算规则(有效数字计算的相关总结)

有效数字运算规则
RECOMMEND

推荐阅读

▼点击查看相关文章

滤膜选择|完整性测试

有效数字指在检验工作中所能得到的有实际意义的数字,其最后一位数字欠准是被允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字;其最后一位数字有±1的误差;

基本定义

1.有效数字的位数:指欠准数字的位置,这个位置确定后,其后的数字均为无效数字;

2.在没有小数位且以若干0结尾的数值中,有效数字指从非0数字最左一位向右数得到的位数减去无效0的个数,即仅为定位用的0;例如:35000若有两个无效零,则为三位有效位数,应写作350×102或3.50×104;若有三个无效零,则为两位有效位数,应写作35×103或3.5×104;

3.在其他10进位数中,有效数字系指从非零数字最左一位向右数而得到的位数;例如:3.2、0.32、0032和00032均为两位有效位数:0.320为3位有效位数;1000为4位有效位数;12.490为5位有效位数;

4.非连续型数值:(如个数、分数、倍数、量纲)是没有欠准数字的,其有效位数可视为无限多位。例如,H2SO4中的2和4是个数,常数n和无理数等数值的有效位数可视为无限多位。即在计算中,其有效位数应根据其他数值的最少有效位数而定;

5.对数值如pH值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数如:pH=11.26([H+]=5.5×10-12mol/L)其有效数字只有两位;

6.有效数字的首位数字为8或9时,其有效位数可以多计一位,例如:85%与115%,都可以看成是三位有效数字: 99.0%与101.0%都可以看成是四位有效数字;

进舍原则

1.四舍六入五成双

例1:将1050按间隔为0.1修约,修约值为:1.0

例2:将0350按间隔为0.1修约修约值为0.4

例3:将2500按间隔为1000修约,修约值为:2×103

例4:将3500按间隔为1000修约,修约值为4×103

例5:将0.0325修约成两位有效位数,修约为0.032或3.2×102

例6:将32500修成两位有效位数,其修约值为32×103

2.相对偏差RSD,采用“只进不舍”的原则;

如0.122%修约为0.13%

3.不许连续修约

如12.4546修约间隔为1,即修约为12;不能修约为13

加减规则—以小数点后位数最少的为准

加减运算为相同单位,应考虑绝对误差;而每个数据最后一位数是不准的,也就是说是有±1的误差,所小数点后位数最少的误差最大,相加减时带来的总误差最大,相比而言其它小数位数更多的误差都有数量级的差距,可以忽略不计;因此误差取决于小数点后位数最少的数,故结果要根据它来修约。

乘除规则—以总有效数字位数最少的为准

乘除一般为不同单位,因此绝对误差无意义,此时应考虑相对误差;同样的,所有数最后一位都是不准的,有±1的误差,1与每个数的的有效数字比值就是其该数的相对误差,数的的有效数字位数越少即相对误差越大,所以误差取决于总有效数字位数最少的数,故结果应该要根据它来修约。

《生物制药合伙人:zpt_Partner》公众号!秉持分享传承生物制药相关技术,汇集生物制药相关的细分技术,网罗业界同仁的丰富经验心得,助力行业的发展,以疫苗,抗体,蛋白等生物制药,生物技术的核心技术分享传承为初衷,助力行业发展。欢迎您把此公众号分享给自己的同学,同事,朋友!
谢谢。您有任何问题都可以加微信514099167交流,谢谢。

更多内容,关注查看

喜欢就“在看”

版权声明

返回顶部