1、GB 17378. 2-1998 前主口本标准是海洋监测规范的第2部分，是在HY003.2闵行业标准的基础上修订而成的。本标准是海洋监测的数据处理与分析质量控制的技术规定。海洋监视l规范包括下列部分gGB 17378.1-1998海洋监测规范第1部分-总则GB 17378.2-1998 海洋监测规范第2部分:数据处理与分析质量控制GB 17378. 3-1998 海洋监测规范第3部分:样品采集、贮存与运输GB 17378.4-1998海洋监测规范第4部分:海水分析GB 17378.5-1998海洋监测规范第5部分:沉积物分析GB 17378. 6-1998海洋监测规范第6部分z生物体分析GB
2、17378. 7-1998 海洋监测规范第7部分:近海污染生态调查和生物监测本标准附录A是提示的附录。本标准由国家海洋局提出。本标准由国家海洋标准计量中心归口。本标准由国家海洋环境监测中心负责起草。本标准主要起草人z张春明、陈邦龙、汪惠昌、李乃兰、徐维龙。334 中华人民共和国国家标准海洋监测规范第2部分:数据处理与分析质量控制GB 17378. 2一1998The specification for marine monitoring Part 2, Data processing and quality control of analysis 1 范围本标准规定了海洋监测的术语及符号，离群
3、数据的统计检验，两均数差异的显著性检验，分析方法验证，内控样的配制与应用，分析质量控制图等。本标准适用于海洋环境监测中海水分析、沉积物分析、生物体分析、近海污染生态调查和生物监测的数据处理及实验室内部分析质量控制。海洋大气，污染物入海通量调查、海洋倾废和疏竣物调查等也可参照使用。2 引用标准下列标准所包含的条文，通过在本标准中引用而构成为本标准的条文，本标准出版时，所示版本均为有效。所有标准都会被修订，使用本标准的各方应探讨使用下列标准最新版本的可能性。GB 8170-87 数值修约规则3 定义本标准采用下列定义。3. 1 实验室样品laboratory sample 可送达实验室进行分析、测
4、试的样品，分为原始祥、分析样、测定样。3. 2 原始样raw sample 现场采集的初始样品。3.3 分析样analytical sample 需要经过预处理，才能进入测定的样品。3.4 测定样test sample 能够直接送交测定的待测物质的样品。若分析样不需任何处理，分析样与测定样是致的。3. 5 平行样parallel sample 取自同一个样本互相独立的样品。3. 6 标准空白standard blank 标准系列中零浓度的响应值。3. 7 分析空白analysis blank 在与样品分析全程一致的条件下，空白样品的测定结果。3.8 校准曲线calibration curve
5、国家质量技术监督局1998- 06 -22批准1999 - 01-01实施335 GB 17378.2-1998 样品中待测项目的量值(X)与仪表给出的信号值(y)之间的相关曲线。校准曲线分为标准曲线和工作曲线。3. 9 工作曲线worki鸣curve标准系列的测定步骤与样品完全相同的校准曲线。3. 10 标准曲线standard curve 标准系列的测定步骤比样品有所简化的校准曲线。3. 11 方法灵敏度method sensib山ty某方法对单位浓度或单位量待测物质变化所致的响应量变化的程度。3. 12 检出限(XN)detection limit 分析方法的检出限是指95%概率，能定性
6、区别于零的最低浓度或量。3. 13 测定下限(Xlimit of determination 是具有给定的概率如95%)，在定量上可检出非零的最低浓度或量。3. 14 第一类错误(错误)type 1 error (error) 原假设为真而被拒绝，又称弃真。例如，被测物为零的假设原本是正确的，却被错误地拒绝，而误判为检出，反之亦然。3. 15 第三类错误。错误)type n盯ror( error) 原假设不真，但被接受，又称存伪。例如，被测物为零的假设，本是错误的，却被错误地接受，而判成未检出，反之亦然。3. 16未检出undetection 低于检出限XN的测定结果。3.17 精密度preC
7、ISlOO 在规定条件下，相互独立的测试结果之间的一致程度。注2精密度仅依赖于随机误差，而与被测量的真值或其他约定值无关.3. 18极差(R)range 样本中最大值与最小值之差。3. 19偏差(D)deviation 各个单次测定值与平均值之差。3. 20 相对偏差(RD)relative deviation 样本分量与样本均值之差再与样本均值之比。3. 21 标准偏差standard deviation 样本分量与样本均值之差的平方和除以样本量减1的平方根2式中:5标准偏差;X，一各次测定值gx 平均值;n 重复测定次数g5=J二丁主(X，- X) 当。叫叫咱(X交)3. 22 相对标准偏
8、差(RSD)relative standard deviation 样本标准偏差与样本均值之比。3. 23 重复性repeatability ,1:l 6 GB 17378.2-1998 在重复性条件下，丰日豆独立的测试结果之间的一致程度。3.24 重复性条件repeatabil町cond山on在同一实验室，由同一操作者使用相同的设备，按相同的测试程序在短时间内，对同一被测对象相互独立进行的测试条件。3. 25 再现性reproducibil盯在再现性条件下，测试结果之间的-致程度。3. 26 再现性条件reproducibil即condtions在进行测试的实验室.操作者，测试设备，测试程序
9、(方法)，测试时间有本质变化的情况1亨，对同被测对象相互独立进行的测试条件。3. 27 准确度accaracy 测试结果与被测量真值或约定真值间的一致程度。3. 28测试误差盯rorof a test 测试结果与被测量的真值(或约定真值)之差。测试误差包括系统误差和随机误差。3. 29 系统误差systematlO error 在对同一被测量的多次测量中，它保持不变或按某种规律而变化。注，统误差及真引起的原因可以是己知的，也可以是未知的。3. 30 随机误差random error 在对同一被测量的多次测试中，它受偶然因素影响而以不可预知的方式变化。注=偶然误差是不可能被修正的。3. 31 统
10、计量statlsttc 样本的函数，它不依赖于未知参数。4 有关规定4. 1 现场原始工作记录在指定的表格上用硬质铅笔书写、字迹端正，不得涂抹。需要改正错记时，在错的数字上划一横线，将正确数字补写在其上方。4.2 正确地记录与修约有效数字的位数，按5.1给出的方法记取，不得任意增减数字的位数，以保证数据的精确度。4.3 原始工作记录是重要的技术档案资料，应按其保存价值，分类规定出归档要求。4.4 表示测试结果的量纲及其有效数字位数，应参照该分析方法中具体规定填报。若无此规定时，般性原则是:一个数据中只准许末尾一个数字是估计(可疑)值，其他各数字都是有效(可信)的，依此决定整数及小数的有效位数。
11、因量纲的变化不作小数取位的硬性规定，有关计算方法的细节，见第5章。4.5 低于检出限XN的测试结果，应报未检出，但在区域性监测检出率占样品频数的1/2以仁(包括1/2)或不足1/2时，未检出部分可分别取XN的1/2和1/4量参加统计运算。4.6 未执行业务主管部门规定的质量控制程序所产生的数据.视为可疑数据，可疑数据不得用于海洋环境质量及海洋环境影响评价。4. 7 测试平行样品也是分析质量控制的方法之一。原则规定，不与内控样同步测定的项目，律测试双平行分析样，只有个别测项如溶解氧、水中泊类等须测原始样双平行(此类不必捆分析样双平行)。海水双样的相对偏差允许值，若原方法元此规定，则按表l执行。沉
12、积物和生物体双样相对偏差表见GB17378.5和GB17378. 6. 337 GB 17378. 2一1998表l海水平行双样相对偏差表分析结果所在数量级10 10-5 10- 6 10 -7 10-8 10-9 10-10 相对偏差容许限.%1. 0 2. 5 5 10 20 30 50 IA-BI 计算A+B lO0% 4.8 天然样品加标回收率，不得越出方法给出范围值。若无此规定，参照表2。表2回收率容许值表浓度或含量范围，用/1.回收率.%100 801l0 1000 901l0 容量及重量法95 105 4.9 在海洋监测中，若采用本规范以外的分析方法，必须按规定做方法对比验证工作
13、，报请业务主管部门批准备案。5 数据处理5. 1 有效数字和数值修约5. 1. 1 有效数字0.1，2，3.4，5，6，7，8，9这些数码叫数字，一个以上的数字组合构成一个数值。在一个数值中每个数字所占位置叫数位，小数点后的第一位叫十分位，以下依次为百分位、千分位.川、数点前的第一位叫个位，其前位依次为十位、百位、千位。一个数值中每个数位上的数字都应是有效的，只有末位数字允许是估计数字，但其波动辐度不得大于士1。例如末位数字为5时可能是4或6.而其余的各个数字都是可信的数字(定位。例外)。表达一个数值中由几个数字组成的，叫有效数字位数。位数的多少，除了反映量值的大小之外，在分析领域中还反映该数
14、值的准确程度。例如O.670 5 g草酸锅，这一数值在量值上为0.60.7g之间，在准确程度上，可信数字截取在千分位上的O.在万分位的数字5是可疑的，但其波动范围小于O.000 2 g。数码0的作用变化较多，一个数值中0是否为有效数字，要根据0的位置及其前后的数字状况而定。常见的有以下四种情况:5.1.1.1 位于非0数字之间的0，如2.005.1. 025两个数值中的兰个0都是有效数字。5.1.1.2 位于非0数字后面的一切0都是有效数字(全整数尾部0例外)。如2.2500.1.0250, 5.1.1.3 前面不具非零数字的0，如O.002 5中的三个0都不是有效数字，只起定位作用。5.1.
15、1.4 整数中最后的0，可以是有效数字，也可以不是。例如用普通天平称取1.5 g试剂，若必须用mg表示，则要写成1500 mg.此数值中最后两个0从表观上是有效数字，但实际上不是，因为粗天平不能达到如此高的准确程度。为了避免误解，可用指数形式表示，上例可记为1.5 X 10 mg.或记为1 500 mg士100mg这便明白地表示出只有两位有效数字。5.1.2 数据的原始记录数值的有效数字的位数是反映其准确程度的主要标志。为了确保数据应有的准确度，从正确地记录原始数据开始，对任何一个有计算意义的数据都要审慎地估量，正确地记载有效数值的位数。例如50 mL滴定管的最小分度值为O.1 mL.又因为允
16、许增加一位估计数字，可以记录到两位小数，如12.34 mL，记下这一数值表明十分位上的3是刻度指示值，确切可信，百分位上的4则是估计判读的，是可疑数字，并知其波动范围为0.02mL.其相对误差为QO.OI则可疑值为异常值，舍弃。若Qo仍 0.597 Q Qo. l 1 GB 17378.2 1998 判定最小值几为异常值，应予剔除。表5Dixon检验统计量也)计算公式n值范围可提数值为最小值x，时可疑数值为最大值x.时3-7 Q=Xz-XI Ql=X:.-X.:. 1 -JL-X ,- X X , L. 1 8-10 Q Xz-XI Q XnX1 H一X , H一X.X, X 1 11-13
17、Q Xa-X1 Q XnXn2 一,- X X , X-J -X, 14-25 Q X2-XI Q X洒一X-222= ,- x X, X_2- X, 表6Dixon检验临界值(Q.)表显著性水平叫显著性水平()n n 0.10 0.05 0.01 0.10 0.05 0.01 3 0.886 0.941 0.988 15 0.472 0.525 O. 616 4 0.679 0.765 0.899 16 。.4540.507 O. 595 5 0.557 0.642 0.780 17 0.438 0.490 0.577 6 0.482 0.560 0.698 18 0.424 0.475 0
18、.561 7 。.4340.507 0.637 19 0.412 。.462 0.547 8 0.479 0.554 0.683 20 0.401 0.450 0.535 9 。.4410.512 0.635 21 0.391 0.440 0.524 10 。.4090.477 0.597 22 0.382 0.430 0.514 11 。.517 0.576 0.679 23 。.3740.421 0.505 12 0.490 0.546 0.642 24 O. 367 0.413 0.497 13 0.467 0.521 0.615 25 0.360 0.406 0.489 14 0.49
19、2 0.546 0.641 5.2.3.2 Grubbs检验法用于多组测定均值的一致性检验和剔除离群值的检验。也适用于实验室内系列单个测定值的一致性检验。步骤:设有L组数据，各组平均值分别为丑，立，HM-3ELO1)将L个均值按大小顺序排列，最大均值记为X萃，最小均值记为Xmin;2)由L个均值(主;)计算总均值圭和标准偏差SE2万，王二三t一二二(雯.- X) S 二二L一1式中X;代表各组均值3)根据可疑值X.或Xmin分别按下式计算统计量1，或t2; tt=Z巳ZS 一X-s -X Z 4)根据给定的显著性水平和组数L查表7得临界值;5)按5.2. 2条的判别准则，决定取舍，6)若本法用
20、于实验室内一组数据检验时，将组数L改为测定次数n，将各组平均值X改为单次测v定值X;。342 GB 17378.2-1998 例有10个实验室分析同一样品，其平均值分别为4.41.4.49.4.30.4.51.4.64.4.75.4.81.4. 95.5. 01.5. 39.检验最大值5.39是否为离群值。EJ A结一au ，也巧JA他晶一-mP-m -FA 二二(主t主)s= ,= 1 10 - 1 二0.3051= 0.31 Xmn - X 5.39 - 4.75 , -一一一-一一一一一一一=2.11 s o. 31 当L=10.=O. 05.查表7临界值(To)为2.18; 判定，2.
21、110. 838 .CC,. 01 O. 92属于离群方差O. 9与其他实验室的测定精度不等，应予剔除。表8Cochran最大方差检验临界值(C.)表n=2 n=3 n=4 n=5 n=6 L a=0.01 a=0.05 a=O.Ol a=0.05 a= 0.01 11 =0.05 O. 01 a=0.05 11=0.01 11=0.05 2 O. 995 0.975 0.979 0.939 O. 959 0.906 O. 937 0.877 3 O. 993 0.967 0.942 0.871 0.883 0.798 O. 834 0.746 0.793 0.707 4 0.968 0.90
22、6 。.8640.768 0.781 0.684 O. 721 0.629 0.676 0.590 5 0.928 0.841 0.788 0.684 0.696 0.598 O. 633 0.544 0.588 0.506 6 0.883 0.781 0.722 0.616 0.626 0.532 O. 564 0.480 0.520 0.445 7 0.838 0.727 0.664 0.561 0.568 0.480 O. 508 0.431 0.466 0.397 8 0.794 0.680 0.615 0.516 。.521 0.438 O. 463 0.391 0.423 0.36
23、0 9 0.754 0.638 0.573 0.478 0.481 0.403 。.4250.358 0.387 0.329 10 0.718 0.602 0.536 0.445 0.447 0.373 O. 393 O. 331 0.357 。.30311 0.684 0.570 0.504 0.417 0.418 0.348 O. 366 0.308 0.332 0.281 。.6530.541 0.475 0.392 0.392 0.326 O. 343 0.288 0.310 0.262 12 13 0.624 O. 515 0.450 O. 371 0.369 0.307 O. 32
24、2 O. 271 0.291 0.246 14 0.599 0.492 0.427 0.352 0.349 0.291 O. 304 0.255 0.274 O. 232 15 0.575 0.471 0.407 0.335 0.332 0.276 O. 288 。.2420.259 0.220 16 0.553 0.452 0.388 0.319 0.316 0.262 0.274 0.230 0.246 0.208 0.372 0.305 0.301 0.250 O. 261 0.219 0.234 O. 198 17 0.532 0.434 18 0.514 。.418 0.356 。.
25、2930.288 0.240 0.249 0.209 0.223 O. 189 344 GB 17378.2-1998 表8(完)n=2 n=3 n=4 n=5 n=6 1 a= 0.01 a=0.05 a= Q. 01 a= 0.05 a= 0.01 a= 0.05 a= 0.01 a= 0.05 a=0.01 a= 0.05 19 0.496 0.403 0.343 0.281 0.276 0.230 0.238 0.200 0.214 O. 181 20 0.480 0.389 0.330 0.270 0.265 0.220 0.229 o. 192 0.205 O. 174 21 0.
26、465 0.377 0.318 0.261 0.255 0.212 。2200.185 O. 197 O. 167 22 0.450 0.365 0.307 0.252 0.246 0.204 0.212 0.178 O. 189 0.160 23 0.437 0.354 O. 297 0.243 0.238 O. 197 0.204 0.172 O. 182 O. 155 24 0.425 0.343 0.287 0.235 0.230 。191。197。.166 0.176 O. 149 25 0.413 0.334 0.278 0.228 0.222 O. 185 0.190 0.160
27、 0.170 O. 144 26 0.402 0.325 0.270 O. 221 0.215 o. 179 O. 184 O. 155 0.164 O. 140 27 O. 391 0.316 0.262 O. 215 0.209 0.173 0.179 O. 150 0.159 0.135 28 0.382 0.308 0.255 0.209 0.202 O. 168 O. 173 O. 146 O. 154 O. 131 29 0.372 0.300 0.248 0.203 0.196 O. 164 O. 168 O. 142 O. 150 O. 127 30 0.363 0.293 0
28、.241 0.198 O. 191 0.159 0.164 O. 138 O. 145 O. 124 31 O. 355 0.286 0.235 O. 193 O. 186 0.155 0.159 O. 134 O. 141 0.120 32 0.347 0.280 0.229 0.188 O. 181 O. 151 0.155 O. 131 O. 138 O. 117 33 0.339 0.273 O. 224 O. 184 O. 177 0.147 O. 151 O. 127 O. 134 0.114 34 0.332 O. 267 0.218 O. 179 O. 172 O. 144 O
29、. 147 O. 124 0.131 0.111 35 0.325 0.262 0.213 O. 175 0.168 0.140 0.144 O. 121 O. 127 O. 108 36 0.318 0.256 0.208 0.172 O. 165 。.137 0.140 O. 118 O. 124 。.106 37 O. 312 0.251 0.204 0.168 0.161 0.134 0.137 O. 116 O. 121 0.103 38 0.306 0.246 0.2日3O. 164 0.157 0.131 0.134 O. 113 O. 119 O. 101 39 0.300 0
30、.242 O. 196 0.161 O. 154 O. 129 O. 131 0.111 O. 116 0.099 40 0.294 。2370.192 O. 158 O. 151 O. 128 O. 128 o. 108 o. 114 。0975.3 两均数差异的显著性检验运用统计检验程序，以判别两组数据之间的差异是否显著，从而更合理地使用数据，做出正确的结论。程序中承认并采用了统计学的理论和假设，用以估计检验数据的可信程度。环境分析工作，会经常遇到需要进行显著性检验的数据，为此选取了t检验、F检验等检验方法。这些方法各有不同的应用领域和应用条件，足能适应大部分正态分布数据的统计检验。正确无
31、误地处理数据，是分析质量保证的组成部分。5. 3. 1 两组均数之间的显著性检验一-t检验法t检验法适用于样本容量较少、总体方差未知但要等精度两组数据的比较检验。此法的应用范围和应用条件，适用环境分析领域。z检验法可有三种计算公式选择，分别满足不同目的和不同类型的统计检验，见表9。表9各计算公式适用领域名称公式适用领域5. 3. 1.2 成对数据的比较Id-ol 不同分析方法对比，改变分析条件、反应条件对t SI、r;比，不同时间、空间变化前后对比5.3.1.3 两样本均值比较t IX,-X, I-d 同一方法不同样品，或同一样晶不同方法比对，SX1 X2 贮存条件的对比5.3. 1.4 样本
32、均值与总体均值比较t 主-p，两级标准物质、标准溶液对比，回收率检验SI、r;5. 3. 1. 1 t检验法的判定准则345 GB 17378. 2 -1998 1) t(0.05) t，(0.01川差别很显著g4)检验=双侧检验g查t值表中P2; 5)检验间。)，单侧检验，查t值表P，0 5. 3. 1.2 成对数据的比较5. 3. 1. 2. 1 应用本法的条件)两组测定数据随机配对，不得人为地选择匹配。如果是实验设计中所预期配对比较则应先配对后测定。2)测定过程中除对比的因素不同外，其他切因素都是相同的。3)两组重复测定次数(n)相等。例选用新的分析方法和原方法同时测定同一均匀样品，各重
33、复测定9次，结果列表10.问新方法较原方法有无显著性差异。、5.3.1.2.2 步骤1)检验假设z新法与原法无显著性差别(=。)。2)随机配对，排序列表。表10。3)汁算统计量d = i.d = 0._49 二一-=-T一=0.0544 n y (0.49) 0.465 一-古一一-5= i.d -旦旦n n - 1 - = 0.234 t旦L=0.0544=AFn 51 ，;0.0780 _. -O自由度Y=n-I=8.查表22t值表P，.t(O.05.8)=2. 31 5)判定，0.6973.06,tt,(O.01) ，两者差异显著，拒绝接受检验假设。X, 4.30 4. 37 3. 69
34、 3. 01 4. 01 4.81 3.86 5. 53 :2:X, = 33.58 X ,=4.20 叫=8表11两组测定值X, X, 18.490 0 2.32 19.0969 2.34 13.6161 1. 97 9.0601 1. 79 16.0801 2. 87 23. 1361 3. 10 14.8996 30.5809 :2:X ,=144.96 n2=6 X, 5. 382 4 5.4756 3.8809 3.2041 8.2369 9.6100 :2:X，二14.39X ,=2.40 :2:Xl = 35. 79 mg/L 347 GB 17378.2-1998 5. 3.
35、1.4 样本均值与总体均值比较本方法适用于测定总体均值为已知的标准物质，用以验证分析方法。计算统计量标准差5、标准误差晴J值。s=J号子主sx=一二二 n t=玄的sl .r; 例某一标准物质中含铺的保证值Wm为12.24X 10-.选用分析方法B共重复测定8次，结果列于表12.问分析方法B所测结果与保证值有无显著差别。步骤20检验假设王=向双侧)表12B法测定结果Wm(lO-)序号X. l 12.24 2 11. 48 3 12. 15 4 12, 40 5 12.71 6 11. 56 7 12. 34 8 11.93 IX. 96.81 X12.10 2)统计量计算11172.8-96.
36、81/8 标准差s=/ 同=0.42 0.42 标准误差szz-Lz一一=0.148.r; .rs 值IX-!，o1一112.10-12.241t=一一一一一=0.946 SJl 0.148 3)查表22t值表P，t.(O.05.= 2.365 4)统计推断0.946 1.5须补测该浓度点，直到满意。6.1.1.2.2 检验直线是否通过原点理想的回归直线，截E巨a=口，曲线通过原点;由于存在难以控制的随机因素，多数直线在表观上芋O.不通过原点。遇此情况则要按统计程序检验其是否通过原点(ao=O)。步骤z1)计算统计量a - a() 南 0.001 7 - 0 SyJ击+芫2)查t值表凡，队。山
37、=2.571 3)判定:Itlo. 962 9;(X,-X) 凡是与检出限XN相对应的信号值，又是计算XB的辅助值gYN =a + 2VBy (X，亨、2=a + 2Syt 1节+1+丁一二一一一一，(X = Xc); . :2二(X，- X) 测定下限XB =XN + VBx N - a , Syt I 1 , ., (Y N _ Y) =LiL7一+- : 1一+1+一-74一一一一一，(Y = YNY; b tN .L I - b : (X; - X) ;-1 利用上述公式，根据特定校准曲线的截距a，斜率b，剩余标准差Sy次及随机统计变量VBx计算出365 GB 17378. 2 1998 来的XcXN XB三项指标，反映了在给定(校准曲线)条件下分析方法达到水平与数据质量，满足了在报送检测结果时，同时报送检出限的要求。它们随校准曲线的参数(条件)变化而变化，因而仅仅是个参考值，并不代表一种分析方法所能达到的最佳值。测定限XB次上的校准曲线区域是最佳工作段，超出校准曲线范围的测定值不能保证其统计学上的可靠性。样品测定值在XN与XB之间时，可以给出定量结果，但应注明XB值。在起痕量分析中，样品测定值大于空白上限，小于检出限(即在XCXN之间)时也应报告，但须注明XN值。366
