DB51T 2157-2016 化學(xué)分析實(shí)驗(yàn)室有效數(shù)字運(yùn)用指南　　

DB51DB51/T2157—2016化學(xué)分析實(shí)驗(yàn)室有效數(shù)字運(yùn)用指南2016-05-18發(fā)布2016-10-01實(shí)施四川省質(zhì)量技術(shù)監(jiān)督局發(fā)布I 1 1 1 2 3 5 7 9本標(biāo)準(zhǔn)起草單位：四川省產(chǎn)品質(zhì)量監(jiān)督檢驗(yàn)檢測(cè)院，四GB/T27025《檢測(cè)和校準(zhǔn)實(shí)驗(yàn)室能力的通用要求》、國家認(rèn)證認(rèn)可監(jiān)督管理委員會(huì)（CNCA）發(fā)布GB/T8170-2008《數(shù)字修約規(guī)則與極限數(shù)值的表示和判定》給出了詳細(xì)的數(shù)值修約規(guī)則、極限數(shù)本標(biāo)準(zhǔn)主要由術(shù)語和定義、有效數(shù)字位數(shù)確定規(guī)則、數(shù)據(jù)修約規(guī)則、近似數(shù)計(jì)算規(guī)則和2個(gè)附錄組1本標(biāo)準(zhǔn)適用于化學(xué)分析實(shí)驗(yàn)室有效數(shù)字運(yùn)用，并滿足GB/T27要求》(idtISO/IEC17025)、國家認(rèn)證認(rèn)可監(jiān)督管理委員會(huì)《檢驗(yàn)檢測(cè)GB/T8170-2008數(shù)字修約規(guī)則與極限24.1.1化學(xué)反應(yīng)基本單元的系數(shù)(如H2SO4中的,K2Cr2O7中的)、化學(xué)元素和原子團(tuán)的化合價(jià)4.1.2我國法定計(jì)量單位,由法定計(jì)量單位構(gòu)成的組合單位,由詞頭和以上單位所構(gòu)成的十?dāng)?shù)單位。原子量、分子量(含原子團(tuán),如HCO3、NH4等)以及化學(xué)反應(yīng)基本單元的摩爾質(zhì)量,阿佛加德羅度f、各種臨界值以及其他取自手冊(cè)上的數(shù)4.1.5其他沒羅列到的情形，實(shí)驗(yàn)室可與上述條款以及后文中的情形對(duì)應(yīng)比較，以確定是否為4.2.1連續(xù)物理量，對(duì)具有連續(xù)分度的計(jì)量器具（如滴定管）,在讀取和記錄測(cè)量值時(shí),應(yīng)度值再多估讀和記錄一位有效數(shù)字,或者說,測(cè)量值的有效數(shù)字位數(shù)必須達(dá)到其最小的有效數(shù)字位數(shù)應(yīng)達(dá)到次小分度值的百分位；當(dāng)最小分度值 4.2.2統(tǒng)計(jì)計(jì)算量，統(tǒng)計(jì)計(jì)算中，以多次重復(fù)檢測(cè)結(jié)果的平均值x作為最終的結(jié)果。其有效數(shù)字位數(shù)4.2.3間接測(cè)量，間接測(cè)量中儀器顯示的原始數(shù)據(jù)，如色譜儀顯4.2.5乘方和開方,當(dāng)對(duì)一個(gè)數(shù)進(jìn)行乘方或開方時(shí),計(jì)算結(jié)果的有效數(shù)字位數(shù)與此數(shù)的有34.2.6對(duì)數(shù)和反對(duì)數(shù)，對(duì)數(shù)計(jì)算中,所取對(duì)數(shù)的小數(shù)點(diǎn)位數(shù)(不包括首數(shù))應(yīng)與真數(shù)的有效示例：將照射量率X=8.501×106R.s-1換算為以法定計(jì)量單位c.kg-的“0”為有效數(shù)字，小數(shù)部分的末位“0”為有效數(shù)字，夾在數(shù)字中間的4.2.10科學(xué)計(jì)數(shù)法，對(duì)包含無效零的數(shù),應(yīng)采用a)幾個(gè)近似值相加減時(shí),其和或差的有效數(shù)字位數(shù)決定于絕對(duì)誤差最大的數(shù)值,即最后結(jié)果效數(shù)字自左起只達(dá)到參加計(jì)算的近似值中第一個(gè)出現(xiàn)的可疑數(shù)字。在小數(shù)的加減b)在中間運(yùn)算過程中,保留的位數(shù)可比各數(shù)值中小數(shù)點(diǎn)后位數(shù)最少者多保留1位小數(shù),而計(jì)算結(jié)c)當(dāng)兩個(gè)很接近的近似數(shù)值相減時(shí),其差的有效數(shù)字位數(shù)會(huì)有損失,因此,應(yīng)注意組織好a)近似值相乘除時(shí),所得積或商的有效數(shù)字位數(shù)，決定于參與計(jì)算的數(shù)中相對(duì)誤差最大的那個(gè)數(shù)b)在實(shí)際運(yùn)算中,先將各近似值修約到比有效數(shù)字位數(shù)最少者多保留1位有效數(shù)字,再將計(jì)算結(jié)c)使用計(jì)算機(jī)計(jì)算時(shí),可在運(yùn)算過程中適當(dāng)保留較多的位數(shù),對(duì)中間結(jié)果不進(jìn)行修約,只45取儀器譜線強(qiáng)度為：9.102，9.03 A.2計(jì)算平均值x 按式A.1計(jì)算平均值x。 x12 x12nn x=9.0817s=nn2is=0.0683s平均值的標(biāo)準(zhǔn)偏差sx=。 n6sx=0.0279查本附錄給出的表A.1t檢驗(yàn)的臨界值表（雙側(cè)檢驗(yàn)情形得到tα（f）。本例中f=5，tα（f）=2.57。擴(kuò)展測(cè)量不確定度U=sxtα（f）根據(jù)JJF1059-2012《測(cè)量不確定度的評(píng)定與表示》中5.3.8的要求。將擴(kuò)展不確定度修約到1位有表A.1t檢驗(yàn)的臨界值（雙側(cè)檢驗(yàn)）1234567897例：萬分之一分析天平，其絕對(duì)示值誤差為±0.0001g，為了使稱量的相對(duì)誤差在0.1%以下，試問至0.0lmg稱量,質(zhì)量數(shù)值＞0.5g時(shí),按精確至0.lmg稱量。其有效數(shù)字位數(shù)取決于滴定管的有89[1]王中平,環(huán)境監(jiān)測(cè)測(cè)量結(jié)果有效數(shù)字位數(shù)應(yīng)用中常見問題的探討,中國環(huán)境監(jiān)