GB 17378.2-1998
前 、‘自
本标准是《海洋监测规范》的第2部分,是在HY 003.2-91行业标准的基础上修订而成的。本标准
是海洋监测的数据处理与分析质量控制的技术规定。
《海洋监测规范》包括下列部分:
GB 17378.1-1998海洋监测规范第1部分:总则
GB 17378.2-1998海洋监测规范第2部分;数据处理与分析质量控制
GB 17378.3-1998海洋监测规范第3部分:样品采集、贮存与运输
GB 17378.4-1998海洋监测规范第4部分:海水分析
GB 17378.5-1998海洋监测规范第5部分:沉积物分析
GB 17378.6-1998海洋监测规范第6部分:生物体分析
GB 17378.7-1998海洋监测规范第7部分:近海污染生态调查和生物监测
本标准附录A是提示的附录。
本标准由国家海洋局提出。
本标准由国家海洋标准计量中心归口。
本标准由国家海洋环境监测中心负责起草。
本标准主要起草人:张春明、陈邦龙、汪惠昌、李乃兰、徐维龙。
中华人民共和国国家标准
海洋监测规范
第2部分:数据处理与分析质量控制GB 17378.2一1998
The specification for marine monitoring
Part 2 : Data processing and quality control of analysis
范围
本标准规定了海洋监测的术语及符号,离群数据的统计检验,两均数差异的显著性检验,分析方法
验证,内控样的配制与应用,分析质量控制图等。
本标准适用于海洋环境监测中海水分析、沉积物分析、生物体分析、近海污染生态调查和生物监测
的数据处理及实验室内部分析质量控制。海洋大气,污染物入海通量调查、海洋倾废和疏浚物调查等也
可参照使用。
2引用标准
下列标准所包含的条文,通过在本标准中引用而构成为本标准的条文,本标准出版时,所示版本均
为有效。所有标准都会被修订,使用本标准的各方应探讨使用下列标准最新版本的可能性。
GB 8170-87数值修约规则
3定义
本标准采用下列定义。
3.1实验室样品laboratory sample
可送达实验室进行分析、测试的样品,分为原始样、分析样、测定样。
3.2原始样raw sample
现场采集的初始样品。
3.3分析样analytical sample
需要经过预处理,才能进入测定的样品。
3.4测定样test sample
能够直接送交测定的待测物质的样品。
若分析样不需任何处理,分析样与测定样是一致的。
3.5平行样parallel sample
取自同一个样本互相独立的样品。
3.6标准空白standard blank
标准系列中零浓度的响应值。
3.7分析空白analysis blank
在与样品分析全程一致的条件下,空白样品的测定结果。
3.8校准曲线calibration curve
国家质I技术监督局1998一06一22批准1999一01一01实施
GB 17378.2一1998
样品中待测项目的量值(X)与仪表给出的信号值(Y)之间的相关曲线。校准曲线分为标准曲线和工
作曲线。
3.9工作曲线working curve
标准系列的测定步骤与样品完全相同的校准曲线。
3.10标准曲线standard curve
标准系列的测定步骤比样品有所简化的校准曲线。
3.11方法灵敏度method sensibility
某方法对单位浓度或单位量待测物质变化所致的响应量变化的程度。
3.12检出限(XN) detection limit
分析方法的检出限是指95%概率,能定性区别于零的最低浓度或量。
3.13测定下限(XB) limit of determination
是具有给定的概率(如95%),在定量上可检出非零的最低浓度或量。
3.14第一类错误(a错误)type I error (a error)
原假设为真而被拒绝,又称弃真。例如,被测物为零的假设原本是正确的,却被错误地拒绝,而误判
为检出,反之亦然。
3.15第二类错误(R错误)type II error (R error)
原假设不真,但被接受,又称存伪。例如,被测物为零的假设,本是错误的,却被错误地接受,而判成
未检出,反之亦然。
3.16未检出undetection
低于检出限XN的测定结果。
3.17精密度precision
在规定条件下,相互独立的测试结果之间的一致程度。
注:精密度仅依赖于随机误差,而与被测量的真值或其他约定值无关。
3.18极差(R) range
样本中最大值与最小值之差。
3.19偏差(D) deviation
各个单次测定值与平均值之差。
3.20相对偏差(RD) relative deviation
样本分量与样本均值之差再与样本均值之比。
3.21标准偏差。tandard deviation
样本分量与样本均值之差的平方和除以样本量减1的平方根:
}1合/,,二、,0二1一一万户八人,一人)“
-Vn一1忙片
式中:s—标准偏差;
x,—各次测定值;
x—平均值;
n—重复测定次数;
“n-2。时:“一丫青争X,一刀z。
3.22相对标准偏差(RSD) relative standard deviation
样本标准偏差与样本均值之比。
3.23重复性repeatability
GB 17378.2一1998
在重复性条件下,相互独立的测试结果之间的一致程度。
3.24重复性条件repeatability condition
在同一实验室,由同一操作者使用相同的设备,按相同的测试程序在短时间内,对同一被测对象相
互独立进行的测试条件。
3.25再现性reproducibility
在再现性条件下,测试结果之间的一致程度。
3.26再现性条件reproducibility conditions
在进行测试的实验室,操作者,测试设备,测试程序(方法),测试时间有本质变化的情况下,对同一
被测对象相互独立进行的测试条件。
3.27准确度accaracy
测试结果与被测量真值或约定真值间的一致程度。
3.28测试误差error of a test
测试结果与被测量的真值(或约定真值)之差。
测试误差包括系统误差和随机误差。
3.29系统误差systematio error
在对同一被测量的多次测量中,它保持不变或按某种规律而变化。
注:系统误差及其引起的原因可以是已知的,也可以是未知的。
3.30随机误差random error
在对同一被测量的多次测试中,它受偶然因素影响而以不可预知的方式变化。
注:偶然误差是不可能被修正的。
3.31统计量statistic
样本的函数,它不依赖于未知参数。
4有关规定
4.1现场原始工作记录在指定的表格上用硬质铅笔书写、字迹端正,不得涂抹。需要改正错记时,在错
的数字上划一横线,将正确数字补写在其上方。
4.2正确地记录与修约有效数字的位数,按5. 1给出的方法记取,不得任意增减数字的位数,以保证数
据的精确度。
4.3原始工作记录是重要的技术档案资料,应按其保存价值,分类规定出归档要求。
4.4表示测试结果的量纲及其有效数字位数,应参照该分析方法中具体规定填报。若无此规定时,一般
性原则是:一个数据中只准许末尾一个数字是估计(可疑)值,其他各数字都是有效(可信)的,依此决定
整数及小数的有效位数。因量纲的变化不作小数取位的硬性规定,有关计算方法的细节,见第5章。
4.5低于检出限Xr,的测试结果,应报“未检出”,但在区域性监测检出率占样品频数的1/2以上(包括
1/2)或不足1/2时,未检出部分可分别取XN的1/2和1/4量参加统计运算。
4.6未执行业务主管部门规定的质量控制程序所产生的数据,视为可疑数据,可疑数据不得用于海洋
环境质量及海洋环境影响评价。
4.7测试平行样品也是分析质量控制的方法之一。原则规定,不与内控样同步测定的项目,一律测试双
平行分析样,只有个别测项如溶解氧、水中油类等须测原始样双平行(此类不必测分析样双平行)。海水
双样的相对偏差允许值,若原方法无此规定,则按表1执行。
沉积物和生物体双样相对偏差表见GB 17378.5和GB 17378.6,
GB 17378.2一1998
表1海水平行双样相对偏差表
│分析结果所在数量级│10-0│10 5│10-s│10-7│10-e│10-9│10-10 │ │
│相对偏差容许限,%│1. 0│2. 5│5 │10 │20 │30 │50 │i-}算 IA-BI XA+B‘。。% │
4.8天然样品加标回收率,不得越出方法给出范围值。若无此规定,参照表2a
表2回收率容许值表
│浓度或含量范围,pg/L │回收率,%│
│<100 │60---110 │
│>100 │80-110 │
│> 1 000 │90-110 │
│容量及重量法 │95^-105 │
4.9在海洋监测中,若采用本规范以外的分析方法,必须按规定做方法对比验证工作,报请业务主管部
「〕批准备案。
5数据处理
5.1有效数字和数值修约
5.1.1有效数字
0,1,2,3,4,5,6,7,8,9这些数码叫数字,一个以上的数字组合构成一个数值。在一个数值中每个数
字所占位置叫数位,小数点后的第一位叫十分位,以下依次为百分位、千分位……;小数点前的第一位叫
个位,其前位依次为十位、百位、千位……。
一个数值中每个数位上的数字都应是有效的,只有末位数字允许是估计数字,但其波动辐度不得大
于士1。例如末位数字为5时可能是4或6,而其余的各个数字都是可信的数字(定位。例外)。
表达一个数值中由几个数字组成的,叫有效数字位数。位数的多少,除了反映量值的大小之外,在分
析领域中还反映该数值的准确程度。例如0. 670 5 g草酸钠,这一数值在量值上为0. 6-0. 7 g之间,在
准确程度上,可信数字截取在千分位上的。,在万分位的数字5是可疑的,但其波动范围小于。. 000 2 g ,
数码“0”的作用变化较多,一个数值中“0”是否为有效数字,要根据“0”的位置及其前后的数字状况
而定。常见的有以下四种情况:
5.1.1.1位于非“o"数字之间的“o,如2.005,1.025两个数值中的三个“0”都是有效数字。
5.1.1.2位于非“0”数字后面的一切“0”都是有效数字(全整数尾部“0”例外)。如2. 250 0,1. 025 Oo
5.1.1.3前面不具非零数字的“0",如。.002 5中的三个“。”都不是有效数字,只起定位作用。
5.1.1.4整数中最后的“o",可以是有效数字,也可以不是。例如用普通天平称取1.5g试剂,若必须用
mg表示,则要写成1 500 mg,此数值中最后两个“0”从表观上是有效数字,但实际上不是,因为粗天平
不能达到如此高的准确程度。为了避免误解,可用指数形式表示,上例可记为1. 5 X 103 mg,或记为
1 500 mg士100 mg这便明白地表示出只有两位有效数字。
5.1.2数据的原始记录
数值的有效数字的位数是反映其准确程度的主要标志。为了确保数据应有的准确度,从正确地记录
原始数据开始,对任何一个有计算意义的数据都要审慎地估量,正确地记载有效数值的位数。例如
50 mL滴定管的最小分度值为0. 1 mL,又因为允许增加一位估计数字,可以记录到两位小数,如
12. 34 mL。记下这一数值表明十分位上的3是刻度指示值,确切可信;百分位上的4则是估计判读的,
是可疑数字,并知其波动范围为0. 02 mL,其相对误差为(0. 02/12. 34)X1000,=0. 1600。若在原始记录
中仅记为12.3 mL,则表示可能产生1.6%的相对误差。由于原始记录不合理致使数据的准确度下降一
个数量级。但也不可任意增加有效数字的位数。如前例记成12.340则是明显失真,因为不可能估计出
GB 17378.2一1998
两位数字。原始记录的有效数字位数,既不可少,也不可多。记取的原则是根据仪器、仪表指示的最小分
度值如实记录并允许增记一位估计数字。
实验室通用的计量仪表可记取的位数如下:
万分之一天平小数点后第四位即万分位。
上皿天平小数点后第二位即百分位。
分光光度计吸光值记到小数点后第三位即千分位。
玻璃量器记取的有效数字位数须根据量器的允许误差和读数误差决定。
常见的一等量器准确容量的记录按表3和表40
表3一等无分度移液管准确容量的表示mL
│容量示值│允许差 │准确容量│
│2 │士0.006 │2. 00 │
│3 │士0. 006│3.00 │
│5 │士0. 01 │5.00 │
│10 │士0.02 │10.00 │
│15 │士0. 03 │15.00 │
│20 │士0.03 │20.00 │
│25 │士0.04 │25. 00 │
│50 │士0. 05 │50.00 │
│100 │士0.08 │100. 0 │
表4一等量入式量瓶准确容量的表示ml-
│容量示值│允许差 │准确容量│
│10 │士0.02 │10. 00 │
│25 │士0.03 │25. 00 │
│50 │士0.05 │50.00 │
│100 │士0.10 │100.0 │
│200 │士0. 10 │200. 0 │
│250 │士0. 10 │250.0 │
│500 │士0. 15 │500. 0 │
│1 000 │士0. 30 │1 000.0 │
│2 000 │士0.50 │2 000.0 │
5.1.3近似计算规则
为了确保最终结果的数值中只包含有效数字(定位“0”例外),在运算中要遵守下列规则:
5.1.3.1加减运算最终计算结果中保留的小数有效位数,应与参加运算的数值中小数位数最少者相
同。例:
11.14十5. 912 25=17. 052 25”17. 05
11.14一5. 912 25=5. 227 75一5. 23
上例最终结果只能保留两位小数,因为11. 14的末位数字4本身就不可信,其后的数字则更不可
信。
5.1.3.2乘除运算得数经修约后,保留的有效数字位数应与参加运算的几个数值中有效数字位数最
GB 17378‘2一1998
少者相同。
对数运算对数的有效数字位数应和原数(真数)的相同。
平方、立方、开方运算计算结果的有效数字位数应和原数的相同。
二、‘和V- -2, /'-3 ,粤等的有效位数,须参照与之相关的数据决定保留的位数。 一、’一’3’J”J’J‘卜一朴’产、一”、、带~’曰尸、”J朴带目,、,~r,、囚”子一朴“
来自一个正态总体的一组数据,多于4个时,其平均值的有效数字位数可比原数的增加一位。
用于表示方法或分析结果精密度的标准差,其有效数字的位数一般只取一位,当测定次数很
I
J
月月
‘
︺
n卜
U
7
叮
.
.
…
Q
J
勺
口
O
J
勺
J
q
J
.
.
…
月
.
.
月.
‘
月
.
.
月
..
月
.
.
.
.
…
-﹄
︺
‘
J
工﹄
d
只
口
尸卜
」
多时可取两位,且最多只能取两位。
5门.3.8报告分析结果有效数字位数,应根据分析方法的精密度即标准差的大小决定。通常可取四分
之一个标准差的首数所在数位,定为分析结果的尾数。例如某一测定结果为25.352,标准差为1.4,四分
之一标准差为0.35,其首位数字所在数位是十分位,即定为该结果的末位,可报为25.4.
5.1.4数值修约
数值修约详见GB 8170-87有关规定。
5.1.4.1在拟舍弃的数字中,若左边第一个数字小于5(不包括5)时则舍去,即拟保留的末位数字不
变。
例如将14.2432修约到保留一位小数:
修约前修约后
14.2432 14. 2
5.1.4. 2在拟舍弃的数字中,若左边第一个数字大于5(不包括5)时,则进一,即所拟保留的末位数字
力口一。
例如将26.4843修约到只保留一位小数:
修约前修约后
26.4843 26.5
5.1.4.3在拟舍弃的数字中,若左边第一个数字等于5,其右边的数字并非全部为“0”时,则进一;若5
的右边皆为“0",拟保留的末位数字若为奇数则进一,若为偶数(包括“0")则不进。
例如将下列数值修约到只保留一位小数:
修约前修约后
0.3500 0.4
0.4500 0.4
1.0500 1.0
5.1.4.4所拟舍弃的数字,若为两位以上数字时,不得连续进行多次修约,应根据所拟舍弃数字中左边
第一个数字的大小,按上述规定一次修约出结果。
例如将15.4546修约成整数。
正确的做法是:
修约前修约后(结果)
15.4546 15
不正确的做法:
Gs 17378.2一1998
修约前一次修约二次修约
15.4546 15. 455 15.46
三次修约四次修约(结果)
15.5 16
在修约计算过程中对中间结果不必修约,将最终结果修约到预期位数。
5.2异常值的统计检验
一组(群)正常的测定数据,应是来自具有一定分布的同一总体;若分析条件发生显著变化,或在实
验操作中出现过失,将产生与正常数据有显著性差别的数据,此类数据称为离群数据或异常值。
仅怀疑某一数据可能会歪曲测定结果,但尚未经过检验判定为异常值时,称此数据为可疑数据。
5.2.1可疑数据的检验
剔除离群数据,会使测定结果更客观;若仅从良好愿望出发,任意删去一些表观差异较大并非离群
数据,虽由此得到认为满意的数据,但并不符合客观实际。因此,对可疑数据的取舍,必须参照下述原则
处理。
5.2.1.1仔细回顾和复查产生可疑值的试验过程,如果是过失误差,则舍弃。
5.2.1.2如果未发现过失,则要按统计程序检验,决定是否舍弃。
5.2.2异常值的判别准则
5.2.2.1计算的统计量不大于显著性水平a=o. 05的临界值,则可疑数据为正常数据,应保留。
5.2-2.2计算的统计量大于a=0. 05的临界值但又不大于a=0. 01的临界值,此可疑数据为偏离数
据,可以保留,取中位数代替平均数值。
5.2-2.3计算的统计量大于a=o. 01的临界值,此可疑值为异常值,应予剔除,并对剩余数据继续检
验,直到数据中无异常值为止。
5.2.3异常值的检验方法
常用的检验方法如下。
5.2.3.1 Dixon检验法
用于一组测定数据的一致性检验和剔除异常值检验。
步骤:
a.将重复n次的测定值从小到大排列为X1,XZ.X,...... X}f
b.按表5列公式,求算Q值;
c.根据选定的显著水平a和重复测定次数n,查表6得临界值Q.;
d.按5.2.2条的判别准则,决定取舍。若Q>QO of,则可疑值为异常值,舍弃。
若Qo. o5CQ<,Q" of,则可疑值为偏离值,可以保留,取中位数代替平均数值。
若QCQO。5,则可疑值为正常值,保留。
例:一组测定值按从小到大的顺序排列为14.56,14.90,14.90,14.92,14.95,14.96,15.00,15-00,
15.01,15.02。
检验最小值14.56是否为异常值。
可疑值为最小值X,时,按下式计算统计量Q:
X,一X,
X,一1一X,
14. 90一14.56
15.01一14.56=0. 755
当n=10,显著性水平a=0. 01,查表6临界值为。
0. 755>0.
62>Qa
597
597
GB 17378.2一1998
判定最小值X,为异常值,应予剔除。
表5 Dixon检验统计量(Q)计算公式
│n值范围 │可疑数值为最小值xl时│可疑数值为最大值X。时 │
│3-7 │ X,一X, │ X.一X_-, │
│ │6110 = },` │Q10导,示一一戈乡= │
│ │ J、月一n1 │ 人”一人1 │
│8^10 │_X。一X, │_X,一X,-, │
│ │Q11= v一一一-v │Q11=,吞一一茂乡‘ ││ │ nn-1一A1 │ 人”一人2 │
│11^-13 │_X,一Xl │_X.一X__> │
│ │Q21 = v一一-v │6121 = v一一v0 │
│ │ nn_1一111 │ n凡一人z │
│14^25 │_X。一X, │_X.一X__l │
│ │Q22 - v~一一一一v │Qzz-一 ., │
│ │ 八日一2一Ai │ 人.一八3 │
表6 Dixon检验临界值(Qa)表
│n │显著性水平(a) │一 │显著性水平(a) │
│ │0.10 │0.05 │0.01 │ │0.10 │0.05 │0.01 │
│3 │0.886 │0.941 │0. 988│1-11 │0.472 │0.525 │0. 616│
│4 │0.679 │0.765 │0.899 │}16 │0.454 │0.507 │0. 595│
│5 │0.557 │0. 642│0.780 │{17 │0. 438│0.490 │0.577 │
│6 │0.482 │0. 560│0. 698│{18 │0.424 │0. 475│0.561 │
│7 │0.434 │0.507 │0.637 │}’”│0.412 │0.462 │0. 547│
├─┼───┼───┼───┤{20 │0.401 │0.450 │0. 535││8 │0.479 │0.554 │0.683 │{2‘ │0.391 │0.440 │0.524 │
│9 │0.441 │0.512 │0. 635│}22 │0. 382│0.430 │0. 514│
│10│0.409 │0.477 │0. 597│{23 │0. 374│0.421 │0. 505│
├─┼───┼───┼───┤一24 │0.367 │0. 413│0.497 │
│11│0.517 │0.576 │0.679 │}“5 │0. 360│0.406 │0.489 │
│12│0.490 │0.546 │0. 642│ │ │ │ │
│13│0.467 │0. 521│0.615 │ │ │ │ │
│14│0.492 │0.546 │0. 641│ │ │ │ │
5.2.3.2 Grubbs检验法
用于多组测定均值的一致性检验和剔除离群值的检验。也适用于实验室内一系列单个测定值的一
致性检验。
步骤:
设有L组数据,各组平均值分别为XX2....... XL.
1)将L个均值按大小顺序排列,最大均值记为Xmax,最小均值记为Xmm ;
2)由L个均值(又)计算总均值灭和标准偏差::
_L,I L}(X:一二
X二止二去,一s=人}— L、L一1
式中:X,—代表各组均值
3)根据可疑值Xm.、或X-分别按下式计算统计量t,或t2;
t,一Xmax - XX一X-
4)根据给定的显著性水平a和组数L查表7得临界值;
5)按5. 2.2条的判别准则,决定取舍;
6)若本法用于实验室内一组数据检验时,将组数L改为测定次数,,将各组平均值又,改为单次测,
定值Xo
Gs 17378.2一1998
例
4. 95,5.
有10个实验室分析同一样品,其平均值分别为4.41,4.49,4.30,4.51,4.64,4.75,4.81
01,5-39,检验最大值5.39是否为离群值。
_万又
灭=.导二4. 746=4.75
lo
E (Y,一X)2
10一1
一x
=0. 3051=0. 31
rl
ll月|
we,
别湖 -- S
t,一X...5. 39一4. 75 0.31=2.11
当L=10,a=0.05,查表7 1庙界值(To)为2.18;
判定:2.11<2.18,t,<Ta,最大值5. 39为正常值。
表7 Grubbs检验临界值(Ta)表
│ 显著性水平((a) │一_显著性水平((a) │
│L 0.05 0.025 0.01 0.005 │{L 0.05。·025 0. 01 0.005 │
│3 1.153 1.155 1.155 1.155│30 2.745 2.908 3.103 3.236│
│4 1.463 1.481 1.492 1.496│31 2.759 2.924 3.119 3.253│
│5 1.672 1.715 1.749 1.764│32 2.773 2.938 3.135 3.270│
│6 1.822 1.887 1.944 1.973│33 2.786 2.952 3.50 3.286│
│?1.938 2.020 2.097 2.139 │34 2.799 2.965 3.164 3.301│
│8 2.032 2.126 2.221 2.274│35 2.811 2.979 3.178 3.316│
│9 2.110 2.215 2.323 2.387│36 2.823 2.991 3.191 3.330│
│10 2.176 2.290 2.410 2.482│37 2.835 3.003 3.204 3.343│
│11 2.234 2.355 2.485 2.564│38 2.846 3.014 3.216 3.356│
│12 2.285 2.412 2.550 2.636│39 2.857 3.025 3.228 3.369│
│13 2.331 2.462 2.607 2.699│40 2.866 3.036 3.240 3.381│
│14 2.371 2.507 2.659 2.755│41 2.877 3.046 3.251 3.393│
│15 2.409 2.549 2.705 2.806│42 2.887 3.057 3.261 3.404│
│16 2.443 2.585 2.747 2.852│43 2.896 3.067 3.271 3.415│
│17 2.475 2.620 2.785 2.895│44 2.905 3.075 3.282 3.425│
│18 2.504 2.651 2.821 2.932│45 2.914 3.085 3.292 3.435│
│19 2.532 2.681 2.854 2.968│46 2.923 3.094 3.302 3.445│
│20 2.557 2.709 2.881 3.001│47 2.931 3.103 3.310 3.455│
│21 2.580 2.733 2.912 3.031│48 2.940 3.111 3.319 3.464│
│22 2.603 2.758 2.939 3.060│49 2.948 3.120 3.329 3.474│
│23 2.624 2.781 2.963 3.087│50 2.956 3.128 3.336 3.483│
│24 2.644 2.802 2.987 3.112│60 3.025 3.199 3.411 3.560│
│25 2.663 2.822 3.009 3.135│70 3.082 3.257 3.471 3.622│
│26 2.681 2.841 3.029 3.157│80 3.130 3.305 3.521 3.673│
│27 2.698 2.859 3.049 3.178│90 3.171 3.347 3.563 3.716│
│28 2.714 2.876 3.068 3.199│100 3.207 3.383 3.600 3.754│
│29 2.730 2.893 3.085 3.218│ │
5.2.3.3 Cochran最大方差检验法
用于多组测定值的方差一致性检验和剔除离群方差检验。
步骤:
设有L组数据,每组测定n次,标准差分别为S1,SZ,S3 f......SL f
GB 17378.2一1998
1)将L个标准差((S,)按大小顺序排列,最大者记为S-.. ;
2)计算统计量C;
c一S2maxL
艺S2
若n=2,即每组只有两次测定时,各组内差值分别为Ri,R2,R3...... RL,则要按下式计算统计量C:
CRm二二LR?
3)根据选定的显著性水平a、组数L,测定次数n查表8得临界值Ca ;
4)按5.2.2条异常值的判别准则,决定取舍。
例1 6个实验室分析同一样品,各实验室5次测定的标准差分别为0.84,1. 30,1. 48,1. 67,1.79
2.17。检验6个实验室是否为等精度。
其中:Sm。二2. 17
=0.308 --
糯一
一- C
万S?
2.172
0. 842+1. 302+……+2.172
根据选定水平a=0.05,L=6,n=5,查表8得临界C。为0. 480;
判定:0. 308<0. 480,C<Co。。。6个实验室的测定数据为等精度,2. 172为正常方差,应予保留。
例2 7个实验室分析同一样品,各实验室两次测定的差值分别为0.0,0.1,0.1,0.2,0.2,0.2,
0.9。检验极差0.9的实验室与其他实验室的测定是否为等精度。
0. 92
0.护十0.12+0. 12+·“·+0. 92=0.850
一一
硫一
一一 C
艺R?
选定显著性水平a=0.01,L=7,n=2,查表8得临界值C。为。.838,
判定:0. 850>0. 838,C>C,.o0. 92属于离群方差,0. 9与其他实验室的测定精度不等,应予剔除。
表8 Cochran最大方差检验临界值(C0)表
│L │凡=2 │”二3 │凡=4 │n=5 │n=6 │
│ │a二0.01 │a=0. 05 │a= 0. 01│a二0.05 │a= 0. 01│a--0. 05│a=0. 01 │“二0.05│a=0. 01 │a二0.05 │
│2 │0.993 │0.967 │0.995 │0.975 │0.979 │0. 939 │0.959 │0.906 │0.937 │0.877 │
│3 │0.968 │0.906 │0.942 │0.871 │0.883 │0.798 │0.834 │0, 746 │0.793 │0.707 │
│4 │0.928 │0.841 │0.864 │0. 768 │0.781 │0.684 │0. 721 │0.629 │0. 676 │0.590 │
│5 │0.883 │0. 781 │0.788 │0.684 │0.696 │0.598 │0.633 │0.544 │0. 588 │0.506 │
│6 │0.838 │0.727 │0.722 │0.616 │0.626 │0.532 │0.564 │0,480 │0.520 │0.445 │
│7 │0.794 │0.680 │0.664 │0.561 │0.568 │0.480 │0.508 │0.431 │0.466 │0.397 │
│8 │0.754 │0.638 │0.615 │0.516 │0. 521 │0.438 │0.463 │0, 391 │0.423 │0.360 │
│9 │0.718 │0.602 │0. 573 │0.478 │0.481 │0.403 │0.425 │0.358 │0. 387 │0.329 │
│10│0.684 │0.570 │0.536 │0.445 │0.447 │0. 373 │0.393 │0.331 │0. 357 │0.303 │
│11│0. 653 │0.541 │0.504 │0.417 │0.418 │0.348 │0.366 │0.308 │0.332 │0. 281 │
│12│0.624 │0.515 │0.475 │0.392 │0.392 │0.326 │0. 343 │0.288 │0.310 │0. 262 │
│13│0.599 │0.492 │0.450 │0.371 │0.369 │0.307 │0.322 │0.271 │0.291 │0.246 │
│14│0. 575 │0.471 │0.427 │0. 352 │0.349 │0.291 │0.304 │0.255 │0.274 │0.232 │
│15│0.553 │0.452 │0.407 │0.335 │0.332 │0.276 │0.288 │0.242 │0.259 │0.220 │
│16│0. 532 │0.434 │0.388 │0.319 │0.316 │0.262 │0. 274 │0.230 │0. 246 │0.208 │
│17│0.514 │0.418 │0.372 │0. 305 │0.301 │0.250 │0.261 │0.219 │0. 234 │0.198 │
│18│ │ │0.356 │0.293 │0.288 │0.240 │0.249 │0. 209 │0.223 │0. 189 │
GB 17378.2一1998
表s(完)
│L │n=2 │九=3 │n=4 │n=5 │n=6 │
│ │“=0. 01 │a= 0. 05│a二0.01 │a=0. 05 │a=0. 01 │a=0. 05 │a=0. 01 │a=0. 05 │a=0. 01 │a=0. 05 │
│19│0.496 │0.403 │0.343 │0.281 │0.276 │0. 230 │0.238 │0.200 │0.214 │0. 181 │
│20│0.480 │0.389 │0.330 │0. 270 │0. 265 │0.220 │0.229 │0. 192 │0.205 │0. 174 │
│21│0. 465 │0. 377 │0.318 │0.261 │0. 255 │0.212 │0.220 │0. 185 │0. 197 │0. 167 │
│22│0.450 │0.365 │0.307 │0.252 │0.246 │0. 204 │0. 212 │0.178 │0. 189 │0. 160 │
│23│0.437 │0.354 │0. 297 │0.243 │0.238 │0. 197 │0.204 │0. 172 │0. 182 │0. 155 │
│24│0.425 │0. 343 │0. 287 │0. 235 │0. 230 │0. 191 │0. 197 │0. 166 │0. 176 │0. 149 │
│25│0.413 │0. 334 │0.278 │0.228 │0.222 │0.185 │0. 190 │0. 160 │0. 170 │0. 144 │
│26│0.402 │0.325 │0.270 │0.221 │0.215 │0. 179 │0.184 │0.155 │0. 164 │0. 140 │
│27│0.391 │0.316 │0.262 │0.215 │0.209 │0. 173 │0. 179 │0.150 │0. 159 │0. 135 │
│28│0.382 │0.308 │0.255 │0.209 │0.202 │0. 168 │0. 173 │0. 146 │0.154 │0. 131 │
│29│0. 372 │0. 300 │0.248 │0.203 │0. 196 │0. 164 │0. 168 │0.142 │0. 150 │0. 127 │
│30│0.363 │0.293 │0.241 │0. 198 │0. 191 │0. 159 │0. 164 │0. 138 │0. 145 │0.124 │
│31│0.355 │0.286 │0. 235 │0. 193 │0. 186 │0. 155 │0.159 │0. 134 │0. 141 │0.120 │
│32│0.347 │0. 280 │0.229 │0.188 │0. 181 │0. 151 │0. 155 │0.131 │0. 138 │0. 117 │
│33│0. 339 │0. 273 │0.224 │0. 184 │0. 177 │0. 147 │0. 151 │0. 127 │0. 134 │0. 114 │
│34│0. 332 │0.267 │0.218 │0. 179 │0. 172 │0. 144 │0. 147 │0. 124 │0.131 │0.111 │
│35│0.325 │0.262 │0.213 │0. 175 │0. 168 │0.140 │0. 144 │0. 121 │0. 127 │0.108 │
│36│0. 318 │0.256 │0. 208 │0. 172 │0. 165 │0. 137 │0.140 │0. 118 │0. 124 │0. 106 │
│37│0. 312 │0.251 │0. 204 │0. 168 │0. 161 │0.134 │0. 137 │0. 116 │0. 121 │0. 103 │
│38│0.306 │0. 246 │0.200 │0. 164 │0. 157 │0.131 │0.134 │0.113 │0. 119 │0.101 │
│39│0.300 │0.242 │0. 196 │0. 161 │0. 154 │0. 129 │0. 131 │0.111 │0. 116 │0.099 │
│40│0.294 │0.237 │0. 192 │0. 158 │0.151 │0. 128 │0. 128 │0.108 │0.114 │0.097 │
5.3两均数差异的显著性检验
运用统计检验程序,以判别两组数据之间的差异是否显著,从而更合理地使用数据,做出正确的结
论。
程序中承认并采用了统计学的理论和假设,用以估计检验数据的可信程度。环境分析工作,会经常
遇到需要进行显著性检验的数据,为此选取了t检验,F检验等检验方法。这些方法各有不同的应用领
域和应用条件,足能适应大部分正态分布数据的统计检验。
正确无误地处理数据,是分析质量保证的组成部分。
5.3.1两组均数之间的显著性检验—t检验法
t检验法适用于样本容量较少、总体方差未知但要等精度两组数据的比较检验。此法的应用范围和
应用条件,适用环境分析领域。t检验法可有三种计算公式选择,分别满足不同目的和不同类型的统计
检验,见表90
表9各计算公式适用领域
│名称 │公式 │适用领域 │
│5.3.1.2成对数据的比较 │,二.达里二11│ 不同分析方法对比,改变分析条件、反应条件对│
│ │ 5/ a犷 │比,不同时间、空间变化前后对比 │
│5.3.1.3两样本均值比较 │,_Xl-XZ I -d│ 同一方法不同样品,或同一样品不同方法比对,│
│ │ SR, _R2 │贮存条件的对比 │
│5.3.1.4样本均值与总体均值比较 │,,-5 │两级标准物质、标准溶液对比,回收率检验 │
│ │ 5 t=-c │ │
5.3t检验法的判定准则
Gs 17378.2一1998
1) t<te(o 05),差别不显著;
2) te(o.os)<t<te(O。:),差别较显著;
3) t>ta(0 oi),差别很显著;
4)检验k=,uo:双侧检验;查t值表中P2 3
5)检验/1<flo(或P>,Uo ):单侧检验;查t值表P'.
5.3.1.2成对数据的比较
5.3.1.2.1应用本法的条件
1)两组测定数据随机配对,不得人为地选择匹配。如果是实验设计中所预期配对比较则应先配对
后测定。
2)测定过程中除对比的因素不同外,其他一切因素都是相同的。
3)两组重复测定次数(n)相等。
例选用新的分析方法和原方法同时测定同一均匀样品,各重复测定9次,结果列表10,问新方法
较原方法有无显著性差异。
5.3.1.2.2步骤:
1)检验假设:新法与原法无显著性差别(P=,uo) o
2)随机配对,排序列表。表10,
3)计算统计量
二Id
d=—片
0.49=0.0544
=0.234
S/ ,/-n
0.0544
0.0780=0.697
4)自由度Y=n-1=8,查表22t值表P2,t(0.05,8)=2.31
5)判定:0. 697<2. 31,t<t.,两个方法差异不显著,接受检验假设(,}=/lo) o
表10新法与原法测定结果。m(10-6)
│序号│原法 │新法 │ d │d2 │
│ │ (1) │ (2) │(1)一(2)│ │
│1 │4.43 │4. 50 │一0.07 │0.0049 │
│2 │4.02 │4.27 │一0.25 │0.0625 │
│3 │4.63 │4.53 │ 0.10 │0.0100 │
│4 │4.58 │4.30 │ 0.28 │0.0784 │
│5 │4. 11 │4. 21 │一0.10 │0.0100 │
│6 │4. 21 │4.10 │ 0.11 │0.0121 │
│7 │4.50 │4.31 │ 0. 19 │0.0361 │
│8 │4.30 │4.52 │一0.22 │0.0484 │
│9 │4.57 │4. 12 │ 0.45 │0.2025 │
│n=9 ld=0.49 Jd2二0.465│
5.3.1.3两样本均值的比较
两个样本的测定次数(n)可以不相同。
5.3.1.3.1计算公式;
1)合并标准差s
Gs 17378.2一1998
}_,,,(IX,)2._、,,(Y-X2)2 12.A l-一一n.一十LEI 2-一一n.,
S二‘!—
"V n,十n2一L
2)两样本均值标准误差Sy,-x,
。s
“‘’一‘“一nin2n ,-, + n ,
ix,一X, I
‘一SXI_X2
,同一样品采用甲、乙两种消解方法,甲法测定8次((n,),乙法测定6次((n2),分别测得两组均值
间两种消解方法,有无显著性差别。
2步骤:
3)
例
如表ii.
5.3.1.I
1)检验假设:差异不显著(,u=产。);
2)计算统计量S,si1-X2,to
合并标准差
艺X,(ZX1)2
儿t
十Y.X22一(艺X
刀2
144. 96一
n,十n:一2
33. 582.____一一一下-十J0.1,一
6
14. 39
8十6一2=0. 66
标准误差
Sx1 _X2一0. 66丫7n }+ } 8 X 6M6=0. 3 6
IX,一Xz}
Si、一X2
4.20一2.40
0.36=5.00
3)查表22t值表P:得(自由度Y=n,+n2-2=12):
taro 05,12)=2. 18
taco 01,12)=3. 06
4)判定:5. 00>3. 06,t>t,(o o1),两者差异显著,拒绝接受检验假设。
表n两组测定值mg/L
│X, │X12 │X2 │Xz │
│4.30│18.490 0│2. 32 │5.382 4 │
│4.37│19.0969 │2.34 │5.4756 │
│3.69│13.6161 │1.97 │3.8809 │
│3.01│9.0601 │1.79 │3. 2041 │
│4.01│16.0801 │2.87 │8. 2369 │
│4.81│23. 1361│3.10 │9. 6100 │
│3.86│14.8996 │ │ │
│5.53│30. 5809│ │ │
1X,=33.58FX, 2=144. 96
X=4
二8
1—20
1—
:'}X2=14. 39
XZ=2.40
EX呈=35. 79
GB 17378。2一1998
5.3.1.4样本均值与总体均值比较
本方法适用于测定总体均值为已知的标准物质,用以验证分析方法。计算统计量标准差、、标准误
差sx,t值。
、_‘/I(x, - X)'
'v n一1
了万
x一产。
s/ }1-n
例某一标准物质中含锅的保证值Wm为12. 24 X 10-',选用分析方法B共重复测定8次,结果列
于表12,问分析方法B所测结果与保证值有无显著差别。
步骤:
1)检验假设:X=产。(双侧)
表12 B法测定结果W.(10-s)
X,2
149.817
131.790
147-622
153-760
161.544
133. 633
152. 275
142.324
IXz=1 172.8
-
月
性
只
︺
亡
d
八U
工胜
1
月b
A
几
Q
d
‘
-
Q自
连
~
1
1
)毯
书
月了
二d
口
J
Q
口
J
工
叮山
愧1
口
1
今
目
0乙
1
1
0
山
刁.
孟
1
1.
1
1es
.1
︸es
l月
1
1
1
,
1
一.
1
序号
1
上
,
曰
介O
J任
‘口
心U
月1
00
BX,=96. 81
X二12.10
2)统计量计算
标准差 /1 172.8一96.81'/8=^1—今U. 4G
V
标准误差Si一丁育二一檐一0.148
.*_Ix-Pa 1 112.10-12.241
s I r=—=一一,丁,了下丈,-一-一=V. y40 一ST U. 146
3)查表22t值表Pz
taco 05.i>=2. 365
4)统计推断
0. 946<2. 36,t<to 0s
接受检验假设:用B法所测结果与保证值无显著差异。
例回收率P的检验:向海水样品中添加一定量标准物质,加标形成的浓度为3.98 mg/L。用B方
法对此加标样品重复测定10次,测定结果列表13,问方法B的回收率是否与100%的回收率无显著差
异。
GB 17378.2一1998
表13回收率测定结果mg/L
序号
12
65
16.974
13.322
79
16
14.364
17. 305
3.6012.960
07
69
16.564
13.616
10
73
16.810
13. 912
13.468
7-X,=38.58
X=3. 858
MX?=149. 3
s二0.226
步骤:
1)检验假设:,u,>10000,,uo=3. 98 mg/L,
2)统计量计算
RSD一责X 10000-0.2263.858X 1000o=5.900
回收率尸=100=3.8583. 980X 1000o=96. 93% 只
-X
一两
IP一产{
RSD/了万
196. 93%一l000oI
5.9%/丫而
3)查表22t值表P,
ta(o 05.9)=1.83
4)统计推断
1.65<1. 83,t<1a(0 05)
接受检验假设,B法的回收率与100%无显著差异。
5.3.2方差:一致性检验—F检验法
此方法常用于两组数据是否具有相同的精密度或方差的齐性检验,即检验在不同的分析条件下(不
同的时间、空间、人员、设备、方法以及不同的反应条件等)所得两组数据之间有无显著性差异。例如用于
进行t检验之前预测总体方差是否相等的检验,只有两方差相等时方可进行t检验。
进行方差一致性检验时,系假定与样本I相同的总体均值及其方差,分别为lu;及a21;与样本1相同
的总体均值及其方差分别为产:及嵘;PI -P2=0,时=醚。
在日常工作中以样本均值X1.X2代表总体均值产,、产2,以样本方差2、: 2s1 2代替总体方差。,2、 21 , Q2的估
计值。
艺(X,一X,)’I(X:一X2)2
n一1n一1
两个方差中较大者瑞二作分子,较小者孺n作分母,按下式算出两方差比值—F值。
GB 17378.2一1998
F一Smax
smm
例分别用X,型和X:型测汞仪,共测同一海水外控样。
6),测得汞的浓度值列表14,检验两种仪器的精密度是否相等。
表14汞浓度测定值
X,型测8次(n,=8) IX2型测6次(n2二
mg/L
│序号│X, │X, │
│1 │2.43 │2.81 │
│2 │2.36 │2. 86 │
│3 │2.45 │2.53 │
│4 │2. 64 │2.33 │
│5 │2. 35 │2. 65 │
│6 │2.38 │2.58 │
│7 │2.61 │ │
│8 │2.41 │ │
X】二2.454X,=2. 627
s荃二0.012 4姜=0. 037 6
步骤:
1)统计假设:两种型号测汞仪所得结果的精密度相同。
计算统计量
s21E(X,一X,)n一10.086 59 8一1=0.012 4
艺(X,一XZ)2
n一1
0. 188 1
6一1=0.037 6
F一Smax一s22一0.037 6一3.。3
Sm, s; U. U l L 4
2)查表15F值表15较大均方为、;其自由度Y=6-1=5;较小均方为:{,其自由度Y=8-1=70
FO 05(5.7)=3. 97。
3)统计推断3. 03<3. 97,F<F
尸=0.05
。5(5,7),接受检验假设:两种型号测汞仪所测结果的精密度相等。
表巧F值表
│)2 │ Y,(较大均方的自由度) │Y2│
│ │1 2 3 4 5 6 7 8 9 10 12 14 16 18 20 │ │
│1 │161 200 216 225 230 234 237 239 241 242 244 245 246 247 248 │1 │
│2 │18. 5 19.0 19.2 19.2 19.3 19.3 19.4 19.4 19.4 19.4 19.4 19.4 19.4 19.4 19.4│2 │
│3 │10.1 9.55 9.28 9.12 9.01 8.94 8.89 8.85 8.81 8.79 8.74 8.71 8.69 8.67 8.66│3 │
│4 │7.71 6.94 6.59 6.39 6.26 6.16 6.09 6.04 6.00 5.96 5.91 5.87 5.84 5.82 5.80│4 │
│5 │6.61 5.79 5.41 5.19 5.05 4.95 4.88 4.82 4.77 4.74 4.68 4.64 4.60 4.58 4.56│5 │
│6 │5.99 5.14 4.76 4.53 4.39 4.28 4.21 4.15 4.10 4.06 4.00 3.96 3.92 3.90 3.87│6 │
│7 │5.59 4.74 4.35 4.12 3.97 3.87 3.79 3.73 3.68 3.64 3.57 3.53 3.49 3.47 3.44│7 │
│8 │5.32 4.46 4.07 3.84 3.69 3.58 3.50 3.44 3.39 3.35 3.28 3.24 3.20 3.17 3.15│8 │
│9 │5.12 4.26 3.86 3.63 3.48 3.37 3.29 3.23 3.18 3.14 3.07 3.03 2.99 2.96 2.94│9 │
│10 │4.95 4.10 3.71 3.48 3.33 3.22 3.14 3.07 3.02 2.98 2.91 2.86 2.83 2.80 2.77│10│
│11 │4.84 3.98 3.59 3.36 3.20 3.09 3.01 2.95 2.90 2.85 2.79 2.74 2.70 2.67 2.65│11│
GB 17378.2一1998
表15(完)
│Y,│ Y,(较大均方的自由度) │Y,│
│ │1 2 3 4 5 6 7 8 9 10 12 14 16 18 20 │ │
│12│4.75 3.89 3.49 3.26 3.11 3.00 2.91 2.85 2.80 2.75 2.69 2.64 2.60 2.57 2.54│12│
│13│4.67 3.81 3.41 3.18 3.03 2.92 2.83 2.77 2.71 2.67 2.60 2.55 2.51 2.48 2.46│13│
│14│4.60 3.74 3.34 3.11 2.96 2.85 2.76 2.70 2.65 2.60 2.53 2.48 2.44 2.41 2.39│14│
│15│4.54 3.68 3.29 3.06 2.90 2.79 2.71 2.64 2.59 2.54 2.48 2.42 2.38 2.35 2.33│15│
│16│4.49 3.63 3.24 3.01 2.85 2.74 2.66 2.59 2.54 2.49 2.42 2.37 2.33 2.30 2.28│16│
│17│4.45 3.59 3.20 2.96 2.81 2.70 2.61 2.55 2.49 2.45 2.38 2.33 2.29 2.26 2.23│17│
│18│4.41 3.55 3.16 2.93 2.77 2.66 2.58 2.51 2.46 2.41 2.34 2.29 2.25 2.22 2.19│18│
│19│4.38 3.52 3.13 2.90 2.74 2.63 2.54 2.48 2.42 2.38 2.31 2.26 2.21 2.18 2.16│19│
│20│4.35 3.49 3.10 2.87 2.71 2.60 2.51 2.45 2.39 2.35 2.28 2.22 2.18 2.15 2.12│20│
尸=0. 01表16 F值表
│72│ Y,(较大均方的自由度) │Y2│
│ │1 2 3 4 5 6?8 9 10 12 14 16 18 20 │ │
│1 │4 052 5 000 5 403 5 625 5 764 5 859 5 928 5 981 6 022 6 056 6 106 6 142 6 169 6 190 6 209 │1 │
│2 │98.5 99.0 99.2 99.3 99.3 99.4 99.4 99.4 99.4 99.4 99.4 99.4 99.4 99.4 99.4 │2 │
│3 │34.1 30.8 29.5 28.7 28.2 27.9 27.7 27.5 27.3 27.2 27.1 26.9 26.8 26.8 26.7 │3 │
│4 │21.2 18.0 16.7 16.0 15.5 15. 2 15.0 14.8 14.7 14.5 14.4 14.2 14.2 14.1 14.0 │4 │
│5 │16.3 13.3 12.1 11.4 11.0 10.7 10.5 10.3 10.2 10.1 9.89 9.77 9.68 9.61 9.55 │5 │
│6 │13.7 10.9 9.78 9.15 8.75 8.47 8.26 8.10 7.98 7.87 7.72 7.60 7.52 7.45 7.40 │6 │
│7 │12.2 9.55 8.45 7.85 7.46 7.19 6.99 6.84 6.72 6.62 6.47 6.36 6.27 6.21 6.16 │7 │
│8 │11.3 8.65 7.59 7.01 6.63 6.37 6.18 6.03 5.91 5.81 5.67 5.56 5.48 5.41 5.36 │8 │
│9 │10.6 8.02 6.99 6.42 6.06 5.80 5.61 5.47 5.35 5.26 5.11 5.00 4.92 4.86 4.81 │9 │
│10│10.0 7.56 6.55 5.99 5.64 5.39 5.20 5.06 4.94 4.85 4.71 4.60 4.52 4.46 4.41 │10│
│11│9.65 7.21 6.22 5.67 5.32 5.07 4.89 4.74 4.63 4.54 4.40 4.29 4.21 4.15 4.10 │11│
│12│9.33 6.93 5.95 5.41 5.06 4.82 4.64 4.50 4.39 4.30 4.16 4.05 3.97 3.91 3.86 │12│
│13│9.07 6.70 5.74 5.21 4.86 4.62 4.44 4.30 4.19 4.10 3.96 3.86 3.78 3.71 3.66 │13│
│14│8.86 6.51 5.56 5.04 4.70 4.46 4.23 4.14 4.03 3.94 3.80 3.70 3.62 3.56 3.51 │14│
│15│8.68 6.36 5.42 4.89 4.56 4.32 4.14 4.00 3.89 3.80 3.67 3.56 3.49 3.42 3.37 │15│
│16│8.53 6.23 5.29 4.77 4.44 4.20 4.03 3.89 3.78 3.69 3.55 3.45 3.37 3.31 3.26 │16│
│17│8.40 6.11 5.18 4.67 4.34 4.10 3.93 3.79 3.68 3.59 3.46 3.35 3.27 3.21 3.16 │17│
│18│8.29 6.01 5.09 4.58 4.25 4.01 3.81 3.71 3.60 3.51 3.37 3.27 3.19 3.13 3.08 │18│
│19│8.18 5.93 5.01 4.50 4.17 3.94 3.77 3.68 3.52 3.43 3.30 3.19 3.12 3.05 3.00 │19│
│20│8.10 5.85 4.94 4.43 4.10 3.87 3.70 3.56 3.46 3.37 3.23 3.13 3.05 2.99 2.94 │20│
6实验室内部分析质t控制
实验室内部质量控制是质量保证体系的一个环节,此体系由样品质量保证、分析质量控制、数据处
理、结果填报等环节组成。显然,在实施中缺少任何一个环节,都将使其他环节的努力变为无效。
编制本程序的前提是假定样品已正确地采集、合理地保存,其他各环节也已处于受控状态中。
6.1分析方法验证
《规范》多数方法经过多家验证,已给出检出限、精密度、准确度等具体指标;但各指标常因分析条件
Gs 17378.2一1998
的改变而变化,而且用于验证的标准物质,代表范围有限,当遇有特殊组分的样品,可能受干扰。为此每
个实验室或分析人员在启用各方法和遇有特殊样品时,都应进行方法验证,并做出肯定的评价,方可用
于样品测定。
6.1.1校准曲线的统计检验
《规范》中的分析方法多数为间接的相对测定,即被测物的含量与已知浓度的标准系列进行比对而
求得,这种比对又常常是通过中间信号转换而实现的。为此,被测物的量(自变量x)与信号(因变量Y)
两个变量必须密切相关。反映二者相关程度的系数;,当浓度点4-6个时,不应小于0.98,通常为。.”。
校准曲线包括标准曲线和工作曲线。
工作曲线是指制备标准系列的步骤与样品分析步骤完全一致的条件下产生的,它综合容纳了分析
全过程的一切影响因素而形成的终裁线。它更能反映分析条件、操作水平、分析方法本身的现实状况。
若以验证分析方法为目的,必须按工作曲线的程序制备标准系列。用于样品测定的校准曲线则按原
方法中规定实施。
标准曲线是指标准系列制备步骤较之样品的分析步骤有所省略,因而零浓度信号值A。与分析空
白信号值A、不相等(Aoz,'-'Ab)。此时必须分别扣除各自的空白值后计算统计量、绘制校准曲线和查读曲
线计算含量或浓度。
6.1.1.1标准系列的制备与测定
在精密度较差的浓度段,适当增加点数。
标准系列中最小浓度C,最好选在检出限附近。
用于光度法的参比液,以纯溶剂(包括水)调零点更稳定,且能减小低浓度段的读数误差。
步骤:
将制备好的标准系列(与样品分析步骤完全相同)各点,由低向高逐个移入已校正的测定池中,依次
测其信号值Y:记入y:栏内。
按表17中示例计算相关系数r,截距a、斜率b、残差d,、剩余标准差::各统计量。
,一SXYQ-
"} xx
a=Y一b叉
S XY
r二二二一
丫"SXX.S YY
d,=Y:一(a+bX, )
/(:一:2):Y丫d22 )SYY } -1
SY - A/一~一丁一-气丁一一辛AI一一一一下
V n-‘、n—乙
表17校准曲线记录、统计表
系列号
浓度值X.
信号值Y,'
Co C,
0.050 0.ZX,=3. 150
0.025
(A.)
0.070 0
C2 C3 Cd
100 0.200 0.400
112 0.206 0.378
CS C6
0.600 0.800
0.550 0.725
C7
1.000
0.905
MY, =2. 771
.X,2=2. 212 5n
孟任
n
︸
0.880
0 1.000
0 0.774
0 0.880
MY, 2二1.707 0
MX,Y,二1.943 4
00
0
0
0
浮
64
49
56
0
0.
0.
0.
Y, =Y,'一A0.045 0 0. 181 0
0 0.040 0 0.
0. 525
0.002 5
0.002 0
0.360 0
0. 275 6
3
0
6
‘
J
O
左
‘
乃J
﹃b
宁
1
.
1
工
1
1032
036
P
月.
QU
﹃lj
︸
乃了
八乙
︸U
l.1
0
0
-
﹄日
︸
八
︺
八」
戈
丫
X,Y,0.002 2 0.7 0.2 0. 141 2 0. 315 0
GB 17378.2一1998
表17(完)
│系列号 │Cp Cl CZ C, Cq CS C5 Cy │ │
│X │二(1/7)MX,=(1/7)X3.150 │=0.450 │
│Y │=(117)MY,二(1/7) X 2. 771 │=0. 396 │
│Sxx │= EX,“一(EX,)2/7=2.212一3.1502/7 │=0. 795 0 │
│ SYY │= Y.Y, 2一(MY, )2/7=1. 707一2. 7712/7 │=0. 610 1 │
│ SXY │= Y,X,Y:一(MX,)(Y,Y,)/7=1.943一3. 150X 2. 771/7 │=0. 696 4 │
│残差}d,}= │ 0. 000 5 0. 002 3 0. 004 1 0. 000 9 0. 002 2 0. 002 4 0. 002 4│=0. 002 8 │
│l y,一(a+bX,) I│SY二〔(SYY一bSxy)/(n一2)]1/2= ([(1一;2)SYY]l(n一2)}v2 │<1. 5,无离群值 │
│剩余标准差 │ =[(1一0.999 972)X0.610 1/513/2 │ │
│Id,}/SY │ 0. 165 3 0. 801 8 1. 463 9 0. 333 2 0. 797 4 0. 866 4 0. 834 0│ │
│ │a=Y-b X b=SxY/Sxx r=Sxyl了 SXXSYY │ │
│ │ =0. 001 7 =0. 876 0 -0, 999 97 │ │
6.1.1.2回归直线的统计检验:
6.1门.2.1标准系列各点测定值的检验
若相关索数r低于规定值或怀疑某一偏离较大浓度点是否为异常值,按下式计算容许值:
I d,!
SY
式中:d,—残差,
SY—剩余标准差。
容许值通常为1.5;若>1.5须补测该浓度点,直到满意。
6.1.1.2.2检验直线是否通过原点
理想的回归直线,截距a=0,曲线通过原点;由于存在难以控制的随机因素,多数直线在表观上a笋
0,不通过原点。遇此情况则要按统计程序检验其是否通过原点((ao=0),
步骤:
1)计算统计量
a一口。
一二二二
、Y丫1丁 X2SY N+S,_
0.001 7一0
/1.。.4502U. VUL‘x习下十了.雨而=0.962 9
2)查t值表P2+ta(o.os.n-2)=2. 571
3)判定:It10.962 9<t,(oos)2.571,a=ao。曲线通过原点。
6.1.1.3校准曲线的绘制
在重复性较好的测定中,各数据对的坐标点能很好地落在一条直线上,此时可直观地将各坐标点连
线,绘成校准曲线图。
当重复性较差时,各数据对的坐标点散落在直线两侧,此时画直线的任意性很大,对此则要按上述
线性回归进行直线拟合。并按线性回归方程式Y=a十bX,分别计算跟零浓度X(,、平均浓度又相对应的
信号值a和y。以浓度X为横坐标,信号值Y(吸光值)为纵坐标,X。对a,又对歹,将两个数据对点入相
应的坐标点。通过两点画出直线,此即校准曲线(见图1)。超出曲线范围的测定值不得任意外推。
提示:
1)选定坐标纸两个变量分度值时,要考虑两变量有效数字位数。
2)两变量的整数值落在格的粗线上。并使曲线图占满坐标纸。
GB 17378.2一1998
3)合理做法是标准系列溶液与样品同步测定,同时绘制校准曲线;若分析条件和方法本身比较稳
定,曲线最多延用一周,并须每天加测空白和两个浓度点的标准溶液以核对曲线。核对的吸光值应落入
该浓度回归直线坐标点Y,的置信区间:
Y:士V B, = Y,士Syt、/壳 1十—十(Y,一Y)2b2Z(X,一X)2
式中:Y,— a+bX,;
n—重复测定次数,
N—浓度点数目,
t-t值表中临界值,(N-2,P,),
SY剩余标准差。
0.800
0.600
(0.450,0. 396)
0.400
0. 200
(0.0.0017)
0.200 0.400 0.600
图1校准曲线
0.800 1.000
以图1为例:加测校准点为CS
Y,二0.001 7+0. 876 0 X 0. 600=0. 527 3
测得Y,=0. 520(已扣除空白A,)
置信区间为
0.527 3士0. 002 8 X 2. 571 X1下了十1十
l
(0.520一0. 396)2
0.876 02 X 0. 795 0
=0.527 3士0.007 8
即0.519一0.535
判定:Y,=O. 520已落入置信区间。
加测的各校准点(包括空白Ao)若全部或两个点未落入置信区间,则须重新测定标准系列,绘制新
曲线。
6.1.2检出限的估算
1)检出限XN按下式估算:
XN=2丫万trSWb
式中::—:值表中临界值((0.05);
r—批内自由度,等于m(n-1);
m—重复测定的批数;
n—平行测定的次数;
Swb—空白平行测定批内标准偏差。
GB 17378.2一1998
海水测定的检出限也可参照附录A的方法来估算。
2)气相色谱分析的最小检测量,指检测器恰能产生与噪声相区别的响应信号时,所需进入色谱柱
的物质的最小量。一般认为恰能分辨的响应信号最小量应为噪声的两倍。
3)离子选择电极法的检出限规定为:当校正曲线的直线部分外延的延长线与通过空白电位且平行
于浓度轴的直线的交点所对应的浓度值。
6.1.3精密度、准确度的验证
验证步骤如下:
1)向天然样品中加入已知其含量的标准物质,加标后的浓度或含量应比原浓度高0.5-2倍;
2)测定表18类别栏内空白、标准物、天然样品、天然样品加标共四组。每组测平行双样,连续测定3
批(m);
3)将测定结果换算为浓度并计算RD,RSD;
4)计算表18中各统计量:
相对偏差:
RD =}x,一X21X,+Xzx 100%
{客(X:一X)21‘
相对标准偏差:
5)统计检验
回收率尸
RSD=n一1
Xx 100
P一三二鱼x 100%
七,
式中:C,—天然样品加标测定值;
c。—天然样品原有值;
c,—标准加入值。
表18精密度、准确度验证记录
│类别 │刀21│7刀2│刀13│ │RSD │
│空白 │X,│ │ │ │ │ │
│ │X,│ │ │ │ │ │
│ │RD│ │ │ │ │ │
│标准物 │X,│ │ │ │ │ │
│ │X,│ │ │ │ │ │
│ │RD│ │ │ │ │ │
│天然 │X,│ │ │ │ │ │
│样品 ├─┼──┼──┼──┤ │ ││ │XZ│ │ │ │ │ │
│ │RD│ │ │ │ │ │
│天然样品│X,│ │ │ │ │ │
│加标 ├─┼──┼──┼──┤ │ ││ │XZ│ │ │ │ │ │
│ │RD│ │ │ │ │ │
平均回收率不应小于或大于表2的规定值。
GB 17378.2一1998
平均相对偏差RD不应超出表1的给定值。海水分析,沉积物分析按GB 17378.5中表2的给定值,
生物体分析按GB 17378.6中表2的给定值。
相对标准偏差RSD,应与原方法给定值接近。
6.2内控样的配制与应用
内控样是为了自我控制分析质量而配制的人工合成样或已定值的天然标准参考物。要求在测定环
境样品的同时,加测内控样占环境样品总份数的l0/-200o0
内控样的质量要求:含量准确、组份均匀、性质稳定,并与环境样品组成相近。
用于海水中某些测项的内控样,可选经过定值的清洁海水及其加标的人工合成样。还可加入多种成
分,以适应多项目的需要。但要考虑:
1)各组分的比例应与环境样品相似;
2)各组分的稳定性相近;
3)各组分所需贮存条件相同;
4)各组分浓度应与环境样品相近;当溶质含量极微时,浓度变化显著,可先配成较高浓度溶液,临
用时稀释;
5)一次配制足够六个月的用量,稳定期应与此相适应;
6)贮存中注意室温、光线、微生物的影响。尤其在频繁的取用中要特别提防来自环境和器具的沾
污。
6.3分析质量控制图
分析质量控制图是根据实测内控样数据绘制的。
6.3.1内控样的测定及数据积累
6.3.1.1要求条件:
1)测定内控样的分析方法、分析条件与测定环境样品时完全一致;
2)严禁给内控样以“特殊待遇”;
3)每批测定至少是双样平行((n=2);
4)考虑到时间变化的影响,每天只测定1-2批(m)内控样,经过1020 d积累10^20对数据。
6.3.2计算统计量
至少积累10对(m批)数据,按下列公式计算总平均值又、标准差:、双样极差R,、平均极差R、双样
平均值X,,供绘制均数(X)控制图和均数极差(X-R)控制图。
X,X,+X,' 2
_乙 X,
X二-I一一
:一mn(X, - X),}=1inn-1
R,=}X,一X,'}
艺 R,
R二二二三一
6.3.3绘制控制图
1)控制图的基本组成(见图2):
Gs 17378.2一1998
│!!u{I}!1J}}}!!I!I!│
上控制限
上誓告限
上辅助线
中心线
酬
卞
绷
下辅助线
下警告限
下控制限
5 10 15日期或序号
图2控制图的基本组成
预期值—图中的中心线;
目标值—上、下警告限之间的区域;
实测值的可接受范围—上、下控制限之间的区域;
辅助线—在中心线两侧与上、下警告限之间各一半处。
2)控制图的绘制:
根据内控样测试数据的统计量X ,S,R,值和内控样各次测定结果绘制均数(X)控制图、均数一极
差控制图。
6.3.3.1均数控制图(灭图)的绘制
用表19中内控样单次(X X, f)测定结果以图4为例计算又控制图组成线(限),并给出应用于实
际工作的X图50
X=0-500,S=0. 012(mn=40)。
中心线为灭=0. 500;
上、下辅助线,位于中心线与上、下警告限之间的一半处(X +S);
上警告限为又+2S=0. 500+2 X 0. 012一0. 524;
下警告限为X一2S=0. 500一2X0. 012=0. 476;
上控制限为X+3S=0. 500+3X0. 012=0. 536;
下控制限为X一3S=0.500-3X0.012=0.4640
将积累的内控样单次测定结果,依次点入与之相对应的日期(或顺序)点位上。如果有超出上、下控
制限的数据,剔除后重新计算统计量并要求落在辅助线以内的数据不少于50%.
·控制图在实际应用当中还应继续积累内控样的数据。如以20个数据为一单元则每增一个单元重新
计算统计量X's,不断调正控制限水平位置,提高数据质量,直至中心线和控制限基本稳定。
GB 17378.2一1998
表19测定结果
│测定序号│测定结果 │平均X,│极差R │
│ │X, │X' │ │ │
│1 │0.501 │0.491 │0.496 │0.010 │
│2 │0.490 │0.490 │0.490 │0.000 │
│3 │0.479 │0.482 │0.480 │0.003 │
│4 │0.520 │0.512 │0.516 │0.008 │
│5 │0.500 │0.490 │0.495 │0.010 │
│6 │0.510 │0.488 │0.499 │0.022 │
│7 │0. 505│0.500 │0. 502│0.005 │
│8 │0.475 │0.493 │0.484 │0.018 │
│9 │0. 500│0.515 │0.508 │0.015 │
│10 │0.498 │0.501 │0.500 │0.003 │
│11 │0. 523│0. 516│0. 520│0.007 │
│12 │0.500 │0.512 │0.506 │0.012 │
│13 │0.513 │0.503 │0. 508│0.010 │
│14 │0.512 │0.497 │0.504 │0.015 │
│15 │0.502 │0.500 │0.501 │0.002 │
│16 │0. 506│0. 510│0.508 │0.004 │
│17 │0.485 │0.503 │0.494 │0.018 │
│18 │0.484 │0.487 │0.486 │0.003 │
│19 │0.512 │0.495 │0. 504│0.017 │
│20 │0. 509│0.500 │0.504 │0.009 │
MX,=10.005; MR二0. 191;RS!'0.010
X +3S上控制限
X +2S上警告限
X +S1_辅助线
X中心线
X一S
X一2S
│}I I!}I L J- L I J}I I I I!I}│
下辅助线
下警告限
X一3S下控制限
1015序号
图3 X图基本组成
GB 17378.2一1998
上控制限二。.536
0. 530
上警告限=。524
0. 520
0. 510
上辅助线=0.512
0.500│:几一八------一 ││一\"'7-/\ │
│二--一入习-------------------一│
│.,万1已..…翻口…口且i. │
中心线=0.500
0.490下辅助线=0.488
0.480下警告限=。476
0.470
下控制限=0 464
15序号
图4 X图实例
6.3-3.2均数一极差控制图(X-R图)的绘制
X-R图由均数控制图和极差控制图两个部分组成。绘制X-R图除了引用内控样测定数据及其统计
量之外,尚须加、减AZ,D;等因数,这些因数是根据重复测定次数n给定的计算值,从表20查得。
表20控制图系数表(每次测n个平行样)
AZ
D,
D,
用表19
0.730.58
3.27{2.58}2.28 I 2.12
0.48
0
2.00
7
0.42
0.076
1. 92
8
0. 37
0. 136
1. 86
中数据,以图5为例计算X-R控制图的组成线(限),并给出应用于实际工作的X-R控制
图6
10.005
20二0.500
0.191=0.009 6=0.010
1)均数控制图部分
=0. 500
十粤AZR一。
3
500+0.006=0.506
一一X
线
线
助
心
辅
中
上
下辅助线R二0.500一0. 006=0. 494
上警告限
下警告限
一音AZ
+普AZR二0. 2、.bvv州卜气丁入1. j
88 X 0. 009 6=0. 512;
2,二一弋了八,式-
5
50。一粤X 1."88 X。.009 6
j
=0.488
上控制限
下控制限
+AZR=
一AZR=
0. 500十1. 88 X 0. 009 6= 0. 518;
0.500一1. 88 X 0. 009 6=().482.
一一X
-一X
--X
--X
-一X
一-X
2)极差控制图部分
中心线灭=0. 009 6=0. 010;
上辅助线二.1,。找十二了l刀
j
R一R 1,。=V. VVy bt-l3.
3
“0.016 9;
27 X 0. 009 6一0.009 6)
GB 17378.2一1998
上警告限二.2,。二二、八十二丁k U4找一式少
.5
=0.009 2,_0t下万U.
3
27 X 0. 009 6一0.009 6 )
=0. 024 1,
上控制限D4R=3. 27X0.009 6=0.031 4
下控制限D3R=0X0.009 6=0,
X-t-3AZR
│一 │
│..........……‘t. │
上控制限
上警告限
上辅助线
中心线
下辅助线
下警告限
下控制限
一R
-R
-R
A
A
A
一
-
一-X
=X
一-X
D,R上控制限
R+了(D,R一R)
一1一一
R+了(D,R -R)
上普告限
上辅助线
中心线
D,R下控制限
5 10 15日期或序号
图5 X-R图
│ │八n二二二二二二 ││N-│v\{’ │
│ │一三二V二丁丁二二二三 │
│t’ │
│片 │
│ 入一 ││ {\八 ││一丫0、 │
上控制限二。.518
上警告限=0. 512
上辅助线二。.506
中心线二。.500
下辅助线二0.494
下替告限二。.488
下控制限二。.482
上控制限=0.031
上警告限二。.024
上辅助线二0.017
中心线=0. 010
下控制限二。.000
5 10 15日期或序号
图6 X-R图实例
极差R越小越好,故极差控制图勿须设下警告限,但有下控制限,即当R值稳步下降,逐次变小以
至于R<D3夏而越出下控制限时,表明精密度有所提高,原R图部分已失去作用。此时应采用新的R
值,重新计算平均差值R,改绘X-R图中极差图部分。
GB 17378.2一1998
使用X-R图时,只要二者之一超出控制限,属于失控,应查明原因,重新测定。
6.3-3.3准确度控制图(万图)的绘制
绘制准确度控制图所依据的回收率P及其标准偏差SP,来自一组(至少20个)内控样(包括环境样
品加标)测定值的统计量。环境样品加标,即向已经定值或未经定值的环境样品中加入已知量的标准物
质。加标量应与本底值相近。若加标后总浓度仍低于测定丁限,可加标到该限值,但不能超过本底值三
倍且亦不能超过校准曲线的测量范围。
低浓度段加标回收率波动很大,若采用基体组分与环境样品相似的标准物质(如沉积物)作内控样
比较稳定且计算方便:
P,=丘x 100 c产
式中:尸,—百分回收率;
c,—测定值,(单位);
c,,—已知值,(单位)。
采用加标的环境样品作内控样,适用于多种浓度(极低者例外)的加标回收率测定。
P图组成线的计算:
至少收集20个可以是不同浓度的加标环境样品的测定数据,计算统计量:
1)计算各次测定值的回收率只
P,一c, - co x 100%
c,
式中:尸,—百分回收率;
‘。—环境样品本底值(含量单位);
‘、—加入标准量(含量单位);
c,—测定值(含量单位)。
2)计算平均百分回收率P
万 P,
P==1
3)计算百分回收率标准差SP
一}P,2一(二。)z/n
SP=I,一一一~--一~-- V n一1
式中:SP—百分回收率标准差(含量单位);
4) P图各组成线计算
中心线尸
上控制限万+3SP
下控制限P-3Sp
例:准确度控制图(P图)的组成与绘制实用举例
在10d内共积累23个不同浓度的测定数据于表21中,按上列公式计算万图各组成线及绘万图。
表21活性磷酸盐测定数据表mg/L
一编号1.’}已知值I’一藏定值{.百}r}.Q收率((PI)}’Pz
9 409
10 000
10 000
,
﹄们
︸
n
U
月了
钊月
﹄
”
引
0
0
.
.
.
t
.
.
十
.
.
..
月
己
胜
t
盯
勺
J
JLL
几
﹄U
l
d
,J
月任
…
n
︸
0
0
0.34
0.34
0.40
d.
土
0
白
勺口
Gs 17378.2一1998
表21(完)mg/L
│编号│已知值│测定值│百分回收率(尸。)│P.2 │
│4 │0.49 │0.49 │100 │10 000│
│5 │0.49 │0.49 │100 │10 000│
│6 │0.49 │0.63 │129 │16 641│
│7 │0.50 │0.47 │94 │8 836 │
│8 │0. 50 │0. 53 │106 │11 236│
│9 │0.50 │0.56 │112 │12 544│
│10 │0. 52 │0.65 │113 │12 769│
│11 │0.66 │0.70 │106 │11 236│
│12 │0.66 │0.60 │91 │8 281 │
│13 │0. 67 │0. 65 │97 │9 409 │
│14 │0.68 │0. 65 │96 │9 216 │
│15 │0. 83 │0.80 │96 │9 216 │
│16 │0.98 │0.75 │77 │5 929 │
│17 │1.3 │1.2 │92 │8 464 │
│18 │1. 3 │1. 3 │100 │10 000│
│19 │1.6 │1.7 │106 │11 236│
│20 │2.3 │2.3 │100 │10 000│
│21 │2. 3 │2.4 │104 │10 816│
│22 │3.3 │3.3 │100 │10 000│
│23 │4. 9 │4. 6 │94 │8 836 │
MP,=2 310 1P,2=234 074
2 310
23100.4
234 074一(2 310)2/23
22=9. 70
中心线万=100.4
上控制限
下控制限
P+3Sp二100. 4+3X9. 70=129. 5
P一3SP=100. 4一3X9. 70=71. 3
上控制限=129.5
平均回收率P =100. 4
僻
娜
回上
而
下控制限!71.3
期或序
图7百分回收率控制图
6.3.4控制图的使用
在测定环境样品的同时,加测至少一对内控样品,将测定结果及其统计量分别点入控制图中,根据
该数值落点位置判定该批环境样品测定结果的精密度或准确度是否在统计控制之中。判定标准:
1)落点在中心线附近上、下警告限之间,分析质量正常,测定结果可信;
2)若落点在上、下警告限之外,但仍在上、下控制限之间,提示分析质量变劣,有趋于失控倾向,应
进行初步检查;
3)若落点在上、下控制限之外,表明测定过程失去控制,该批测定数据不可信,应立即查明原因,予
Gs 17378.2一1998
以纠正并重新测定。
表22
0 r
t值表
│Y │P(2): │0.50 │0.20 │0.10 │0.05 │0.02 │0.01 │ 0.005 │0.002 │ 0.001 │
│ │尸(1): │0. 25 │0.10 │0.05 │0.025 │0.01 │0.005 │0.002 5 │0.001 │0.000 5 │
│1 │ │1.000 │3.078 │6.314 │12. 706 │31.821│63. 657 │127.321 │318.309 │636. 619│
│2 │ │0.816 │1.886 │2. 920│4.303 │6. 965│9. 925 │14.089 │22. 327 │31. 599 │
│3 │ │0. 765│1. 638│2.353 │3. 182 │4.541 │5.841 │ 7.453 │10.210 │12. 924 │
│4 │ │0.741 │1. 533│2. 132│2. 776 │3. 747│4. 604 │5.598 │ 7. 173│ 8. 610│
│5 │ │0. 727│1.476 │2.015 │2. 571 │3.365 │4.032 │4. 773 │ 5.893 │ 6. 869│
│6 │ │0.718 │1.440 │1. 943│2.447 │3. 143│3.707 │4.317 │ 5. 208│ 5. 959│
│7 │ │0. 711│1.415 │1. 895│2.365 │2.998 │3.499 │4.029 │ 4. 785│ 5.408 │
│8 │ │0.706 │1. 397│1.860 │2.306 │2.896 │3. 355 │3.833 │ 4. 501│ 5.041 │
│9 │ │0. 703│1.383 │1.833 │2. 262 │2. 821│3.250 │3. 690 │ 4.297 │ 4.781 │
│10│ │0.700 │1. 372│1.812 │2. 228 │2. 764│3. 169 │3.581 │ 4. 144│ 4.587 │
│11│ │0.697 │1. 363│1.796 │2.201 │2.718 │3. 106 │3.497 │ 4.025 │ 4.437 │
│12│ │0. 695│1. 356│1. 782│2. 179 │2.681 │3.055 │3.423 │ 3.930 │ 4. 318│
│13│ │0.694 │1. 350│1.771 │2. 160 │2. 650│3.012 │3. 372 │ 3.852 │ 4. 221│
│14│ │0. 692│1.345 │1. 761│2. 145 │2. 624│2.977 │3. 326 │ 3. 737│ 4. 140│
│15│ │0.691 │1. 341│1. 753│2. 131 │2. 602│2. 947 │3.286 │ 3. 733│ 4.079 │
│16│ │0. 690│1. 337│1. 746│2. 120 │2.583 │2. 921 │3. 252 │ 3. 686│ 4.015 │
│17│ │0.689 │1. 333│1. 740│2. 110 │2.507 │2.898 │3.222 │ 3. 646│ 3. 965│
│18│ │0. 688│1.330 │1. 734│2. 101 │2.552 │2. 878 │3. 197 │ 3. 610│ 3. 922│
│19│ │0.688 │1. 328│1. 729│2.093 │2. 539│2.861 │3. 174 │ 3. 579│ 3.883 │
│20│ │0. 687│1.325 │1.725 │2. 086 │2.528 │2. 845 │3. 153 │ 3. 552│ 3. 850│
│21│ │0. 686│1. 323│1. 721│2.080 │2. 518│2.831 │3. 135 │ 3. 527│ 3. 819│
│22│ │0.686 │1. 321│1.717 │2.074 │2.508 │2. 819 │3. 119 │ 3.505 │ 3. 792│
│23│ │0. 685│1. 319│1. 714│2.069 │2. 500│2. 807 │3. 104 │ 3.485 │ 3.768 │
│24│ │0.685 │1. 318│1.711 │2.064 │2.492 │2. 797 │3.091 │ 3.467 │ 3. 745│
│25│ │0. 684│1. 316│1.708 │2. 060 │2.485 │2. 787 │3.078 │ 3.450 │ 3. 725│
│26│ │0.684 │1. 315│1. 706│2.056 │2.479 │2. 779 │3.067 │ 3.435 │ 3. 707│
│27│ │0.684 │1. 314│1.703 │2.052 │2. 473│2. 771 │3. 057 │ 3. 421│ 3. 690│
│28│ │0. 683│1.313 │1. 701│2.048 │2.467 │2. 763 │3.047 │ 3.408 │ 3. 674│
│29│ │0.683 │1. 311│1. 699│2.045 │2.462 │2. 756 │3. 038 │ 3. 396│ 3. 659│
│30│ │0.683 │1.310 │1.697 │2.042 │2. 457│2. 750 │3.030 │ 3. 385│ 3. 646│
│31│ │0. 682│1.309 │1. 696│2.040 │2. 453│2.744 │3. 022 │ 3. 375│ 3. 633│
│32│ │0.682 │1. 309│1.694 │2.037 │2.449 │2. 738 │3.015 │ 3. 365│ 3. 622│
│33│ │0. 682│1.308 │1. 692│2.035 │2.445 │2. 733 │3.003 │ 3.356 │ 3. 611│
│34│ │0.682 │1. 307│1. 691│2.032 │2.441 │2.728 │3.002 │ 3.348 │ 3. 601│
│35│ │0. 682│1.306 │1.690 │2. 030 │2.438 │2. 724 │2. 996 │ 3. 340│ 3. 591│
│36│ │0.681 │1.306 │1. 688│2.028 │2.434 │2. 719 │2. 990 │ 3. 333│ 3. 582│
│37│ │0.681 │1.305 │1.687 │2.026 │2. 431│2. 715 │2.985 │ 3. 326│ 3.574 │
│38│ │0. 681│1.304 │1.686 │2.024 │2.429 │2. 712 │2.980 │ 3. 319│ 3. 566│
│39│ │0. 681│1.304 │1. 685│2.023 │2.426 │2.708 │2. 976 │ 3. 313│ 3.563 │
GB 17378.2一1998
表22(完)
│Y │尸(2): │0.50 │0.20 │0.10 │0.05 │0.02 │0.01 │ 0.005 │0.002 │ 0.001 │
│ │尸(1): │0.25 │0.10 │0.05 │0.025 │0.01 │0.005 │0.002 5 │0.001 │0.000 5 │
│ 40 │ │ 0.681 │ 1.303 │1. 684 │2.021 │ 2.423 │ 2.704 │ 2. 971│ 3.307 │ 3.551 │
│ 50 │ │ 0.679 │1.299 │1.676 │2.009 │ 2.403 │ 2. 678│ 2.937 │ 3. 261│ 3.496 │
│ 60 │ │ 0.679 │1.296 │1.671 │2.000 │ 2.390 │ 2.660 │ 2. 915│ 3.232 │ 3.460 │
│ 70 │ │ 0.678 │1.294 │1.667 │1.994 │ 2.381 │ 2. 648│ 2.899 │ 3.211 │ 3.435 │
│ 80 │ │ 0.678 │1.292 │1.664 │1.990 │ 2.374 │ 2.639 │ 2.887 │ 3. 195│ 3.416 │
│ 90 │ │ 0.677 │1.291 │1.662 │1.987 │ 2.368 │ 2.632 │ 2.878 │3.183 │ 3.402 │
│100 │ │ 0.677 │1.290 │1.660 │1.984 │ 2.364 │ 2.626 │ 2.871 │ 3. 174│ 3.390 │
│200 │ │ 0.676 │1.286 │1.653 │1.972 │ 2.345 │ 2.601 │ 2.839 │ 3. 131│ 3. 340│
│500 │ │ 0.675 │1.283 │1.648 │1.965 │ 2.334 │2.586 │2.820 │3. 107 │ 3.310 │
│1 000 │ │ 0.675 │1.282 │1.646 │1.962 │2.330 │ 2.581 │2.813 │3.098 │ 3. 300│
│ 00 │ │0.674 5 │1.281 0 │1.644 9 │1.960 0 │2.326 3 │2. 575 8│3.807 0 │3.090 2 │3.290 5 │
│注:P(2)是双侧的概率,P(1)是单侧的概率,7是自由度 │
GB 17378.2一1998
附录A
(提示的附录)
海水分析空白上限、检出限、测定下限的估算
水质分析的空白上限Xc、检出限Xr,、测定下限XB(见图A)也可用下面方法估算:
设:a—校准曲线的截距;
b—校准曲线的斜率;
SY—剩余标准差;
t-t值表中的临界值;
YI
Xc XN
VB,—表示在横坐标上任何一个浓度点
点X,的置信区间为
Xs
图Al
X,(包括零浓度)的不确定度。横坐标上任何一个浓度
X,土VB,t
当浓度为。,截距a的不确定度为VBY,“的置信上限值为
Yc一“+v“·+“+“【!一1不下十1十tV(0一X)z艺(X:一X) 2(X0);零浓度(空白Xo)的置信区间Xc=VBX(X=0)
检出限XcYc一a bSYt}”{1—十1十(0一叉)2
Z (x,一X) 2
,(Y一Yc );
YN是与检出限XN相对应的信号值,又是计算XB的辅助值:
Yr, =a+2VBy
八。_!1
=a t zoyt I w,十,1 t
I IV
(X,一X)z
艺(X,一X) 2
(X=XC);
测定下限
X, =Xr,+V B,
YN一a , Syt I 1
=一-丁-‘-t,一;,.I ,..寸.1寸,
0 0 1 !v
(YN一Y)2
b2艺 (X:一X)2
(Y二YN);
利用上述公式,根据特定校准曲线的截距a,斜率b,剩余标准差Sy次及随机统计变量VB,计算出
GB 17378.2一1998
来的XC,XN,X。三项指标,反映了在给定(校准曲线)条件下分析方法达到水平与数据质量,满足了在
报送检测结果时,同时报送检出限的要求。它们随校准曲线的参数(条件)变化而变化,因而仅仅是个参
考值,并不代表一种分析方法所能达到的最佳值。
测定限XB次上的校准曲线区域是最佳工作段。超出校准曲线范围的测定值不能保证其统计学上
的可靠性。
样品测定值在XN与XB之间时,可以给出定量结果,但应注明XB值。在超痕量分析中,样品测定值
大于空白上限,小于检出限(即在XC-XN之间)时也应报告,但须注明X、值。