2009-11-10
3-4 有效数字
1,实验过程中常遇到的 两类数字
( 1) 数目:如测定次数;倍数;系数;分数
( 2) 测量值或计算值 。 数据的位数与测定准确度有关 。
记录的数字不仅表示数量的大小, 而且要正确地反映测
量的精确程度 。
结果 绝对偏差 相对偏差 有效数字位数
0.51800 ± 0.00001 ± 0.002% 5
0.5180 ± 0.0001 ± 0.02% 4
0.518 ± 0.001 ± 0.2% 3
2009-11-10
2.数据中零的作用
数字零在数据中具有 双重作用,
( 1) 作普通数字用, 如 0.5180
4位有效数字 5.180?10- 1
( 2) 作定位用:如 0.0518
3位有效数字 5.18?10- 2
3.有效数字的修约规则
四舍六入五留双;
例,15.0250=15.02
15.0150=15.02
15.025001=15.03
2009-11-10
3.改变单位,不改变有效数字的位数
如,24.01mL 24.01?10- 3 L
4,注意点
( 1)容量器皿;滴定管;移液管;容量瓶; 4位有效数字
( 2)分析天平(万分之一)取 4位有效数字
( 3)标准溶液的浓度,用 4位有效数字表示, 0.1000 mol/L
( 4) pH 4.34,小数点后的数字位数为有效数字位数
对数值,lgX =2.38; lg(2.4?102)
2009-11-10
二、运算规则
1,加减运算
结果的位数取决于绝对误差最大的数据的位数
例,0.0121 绝对误差,0.0001
25.64 0.01
1.057 0.001
26.7091
2009-11-10
2,乘除运算时
有效数字的位数取决于相对误差最大的数据的位
数。
例,(0.0325 ? 5.103 ? 60.0)/ 139.8 = 0.071179184
0.0325 ± 0.0001/0.0325 ? 100%=± 0.3%
5.103 ± 0.001 /5.103 ? 100%=± 0.02%
60.06 ± 0.01 /60.06 ? 100%=± 0.02%
139.8 ± 0.1 /139.8 ? 100% =± 0.07%
2009-11-10
3,注意点
( 1) 分数;比例系数;实验次数等不记位数;
( 2) 第一位数字大于 8时,多取一位,如,8.48,按 4位算;
( 3) 四舍六入五留双;
( 4) 注意 pH计算,[H+]=5.02?10 -3 ; pH = 2.299;
有效数字按小数点后的位数计算。
3-4 有效数字
1,实验过程中常遇到的 两类数字
( 1) 数目:如测定次数;倍数;系数;分数
( 2) 测量值或计算值 。 数据的位数与测定准确度有关 。
记录的数字不仅表示数量的大小, 而且要正确地反映测
量的精确程度 。
结果 绝对偏差 相对偏差 有效数字位数
0.51800 ± 0.00001 ± 0.002% 5
0.5180 ± 0.0001 ± 0.02% 4
0.518 ± 0.001 ± 0.2% 3
2009-11-10
2.数据中零的作用
数字零在数据中具有 双重作用,
( 1) 作普通数字用, 如 0.5180
4位有效数字 5.180?10- 1
( 2) 作定位用:如 0.0518
3位有效数字 5.18?10- 2
3.有效数字的修约规则
四舍六入五留双;
例,15.0250=15.02
15.0150=15.02
15.025001=15.03
2009-11-10
3.改变单位,不改变有效数字的位数
如,24.01mL 24.01?10- 3 L
4,注意点
( 1)容量器皿;滴定管;移液管;容量瓶; 4位有效数字
( 2)分析天平(万分之一)取 4位有效数字
( 3)标准溶液的浓度,用 4位有效数字表示, 0.1000 mol/L
( 4) pH 4.34,小数点后的数字位数为有效数字位数
对数值,lgX =2.38; lg(2.4?102)
2009-11-10
二、运算规则
1,加减运算
结果的位数取决于绝对误差最大的数据的位数
例,0.0121 绝对误差,0.0001
25.64 0.01
1.057 0.001
26.7091
2009-11-10
2,乘除运算时
有效数字的位数取决于相对误差最大的数据的位
数。
例,(0.0325 ? 5.103 ? 60.0)/ 139.8 = 0.071179184
0.0325 ± 0.0001/0.0325 ? 100%=± 0.3%
5.103 ± 0.001 /5.103 ? 100%=± 0.02%
60.06 ± 0.01 /60.06 ? 100%=± 0.02%
139.8 ± 0.1 /139.8 ? 100% =± 0.07%
2009-11-10
3,注意点
( 1) 分数;比例系数;实验次数等不记位数;
( 2) 第一位数字大于 8时,多取一位,如,8.48,按 4位算;
( 3) 四舍六入五留双;
( 4) 注意 pH计算,[H+]=5.02?10 -3 ; pH = 2.299;
有效数字按小数点后的位数计算。