第-02-章-誤差與數(shù)據(jù)處理課件_第1頁
第-02-章-誤差與數(shù)據(jù)處理課件_第2頁
第-02-章-誤差與數(shù)據(jù)處理課件_第3頁
第-02-章-誤差與數(shù)據(jù)處理課件_第4頁
第-02-章-誤差與數(shù)據(jù)處理課件_第5頁
已閱讀5頁,還剩62頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

2023/7/24第二章

定量分析中的誤差與數(shù)據(jù)處理§2.1定量分析中的誤差§2.2分析結(jié)果的數(shù)據(jù)處理§2.3誤差的傳遞§2.4有效數(shù)字及其運(yùn)算規(guī)則§2.5標(biāo)準(zhǔn)曲線的回歸分析2023/7/24§2.1定量分析中的誤差2.1.1

誤差(Error)與準(zhǔn)確度(Accuracy)相對(duì)誤差表示誤差占真值的百分率或千分率。1.

誤差——測(cè)定值xi與真實(shí)值μ之差(真實(shí)值TrueValue:在觀測(cè)的瞬時(shí)條件下,質(zhì)量特性的確切數(shù)值)

誤差的大小可用絕對(duì)誤差E(AbsoluteError)和相對(duì)誤差RE(RelativeError)表示。

E=xi-μ2023/7/242.準(zhǔn)確度

(1)測(cè)定平均值與真值接近的程度;(2)準(zhǔn)確度高低常用誤差大小表示,誤差小,準(zhǔn)確度高。2023/7/24例1:

分析天平稱量?jī)晌矬w的質(zhì)量各為1.6380g和0.1637g,假定兩者的真實(shí)質(zhì)量分別為1.6381g和0.1638g,則兩者稱量的絕對(duì)誤差分別為:(1.6380-1.6381)g=-0.0001g(0.1637-0.1638)g=-0.0001g兩者稱量的相對(duì)誤差分別為:絕對(duì)誤差相等,相對(duì)誤差并不一定相同。2023/7/243.討論(1)絕對(duì)誤差相等,相對(duì)誤差并不一定相同;(2)同樣的絕對(duì)誤差,被測(cè)定的量較大時(shí),相對(duì)誤差就比較小,測(cè)定的準(zhǔn)確度也就比較高;(3)用相對(duì)誤差來表示各種情況下測(cè)定結(jié)果的準(zhǔn)確度更為確切;(4)絕對(duì)誤差和相對(duì)誤差都有正值和負(fù)值。正值表示分析結(jié)果偏高,負(fù)值表示分析結(jié)果偏低;(5)實(shí)際工作中,真值實(shí)際上是無法獲得;常用純物質(zhì)的理論值、國(guó)家標(biāo)準(zhǔn)局提供的標(biāo)準(zhǔn)參考物質(zhì)的證書上給出的數(shù)值、或多次測(cè)定結(jié)果的平均值當(dāng)作真值;2023/7/242.1.2

偏差(Deviation)與精密度(Precision)1.偏差個(gè)別測(cè)定結(jié)果xi與幾次測(cè)定結(jié)果的平均值的差。絕對(duì)偏差di:測(cè)定結(jié)果與平均值之差;相對(duì)偏差dr:絕對(duì)偏差在平均值中所占的百分率或千分率。2023/7/24

各偏差值的絕對(duì)值的平均值,稱為單次測(cè)定的平均偏差,又稱算術(shù)平均偏差(AverageDeviation):?jiǎn)未螠y(cè)定的相對(duì)平均偏差表示為:2023/7/242.標(biāo)準(zhǔn)偏差(StandardDeviation)

又稱均方根偏差,當(dāng)測(cè)定次數(shù)趨於無限多時(shí),稱為總體標(biāo)準(zhǔn)偏差,用σ表示如下:

μ為總體平均值,在校正了系統(tǒng)誤差情況下,μ即代表真值;

n為測(cè)定次數(shù)。

(n-1)表示n個(gè)測(cè)定值中具有獨(dú)立偏差的數(shù)目,又稱為自由度。

有限次測(cè)定時(shí),標(biāo)準(zhǔn)偏差稱為樣本標(biāo)準(zhǔn)差,以s表示:2023/7/24用下式計(jì)算標(biāo)準(zhǔn)偏差更為方便:

s與平均值之比稱為相對(duì)標(biāo)準(zhǔn)偏差,以sr表示:也可用千分率表示(即式中乘以1000‰)。如以百分率表示又稱為變異系數(shù)

CV(CoefficientofVariation)。2023/7/243.精密度(1)精密度:在確定條件下,將測(cè)試方法實(shí)施多次,求出所得結(jié)果之間的一致程度。精密度的大小常用偏差表示。(2)精密度的高低還常用重復(fù)性(Repeatability)和再現(xiàn)性(Reproducibility)表示。重復(fù)性(r):同一操作者,在相同條件下,獲得一系列結(jié)果之間的一致程度。再現(xiàn)性(R):不同的操作者,在不同條件下,用相同方法獲得的單個(gè)結(jié)果之間的一致程度。(3)用標(biāo)準(zhǔn)偏差比用算術(shù)平均偏差更合理。2023/7/24對(duì)比:

有兩組測(cè)定值,判斷精密度的差異。

甲組2.92.93.03.13.1乙組2.83.03.03.03.2計(jì)算:平均偏差相同;標(biāo)準(zhǔn)偏差不同,兩組數(shù)據(jù)的離散程度不同;在一般情況下,對(duì)測(cè)定數(shù)據(jù)應(yīng)表示出標(biāo)準(zhǔn)偏差或變異系數(shù)。2023/7/242.1.3準(zhǔn)確度與精密度的關(guān)系精密度是保證準(zhǔn)確度的先決條件;精密度高不一定準(zhǔn)確度高;兩者的差別主要是由于系統(tǒng)誤差的存在。精密度準(zhǔn)確度

好好

好稍差

差差

很差偶然性

2023/7/24例2:

分析鐵礦中鐵含量,得如下數(shù)據(jù):37.45%,37.20%,37.50%,37.30%,37.25%計(jì)算此結(jié)果的平均值、平均偏差、標(biāo)準(zhǔn)偏差、變異系數(shù)。計(jì)算:2023/7/242.1.4誤差的分類及減免誤差的方法

系統(tǒng)誤差或稱可測(cè)誤差(DeterminateError)偶然誤差或稱未定誤差、隨機(jī)誤差(IndeterminateErrors)1.系統(tǒng)誤差產(chǎn)生的原因、性質(zhì)及減免產(chǎn)生的原因:(1)方法誤差(MethodErrors):如反應(yīng)不完全;干擾成分的影響;指示劑選擇不當(dāng);(2)試劑或蒸餾水純度不夠;2023/7/24(3)儀器誤差(InstrumentalErrors)如容量器皿刻度不準(zhǔn)又未經(jīng)校正,電子儀器“噪聲”過大等造成;(4)人為誤差(PersonalErrors),如觀察顏色偏深或偏淺,第二次讀數(shù)總是想與第一次重復(fù)等造成。2023/7/24系統(tǒng)誤差的性質(zhì):(1)重復(fù)性:同一條件下,重復(fù)測(cè)定中,重復(fù)地出現(xiàn);(2)單向性:測(cè)定結(jié)果系統(tǒng)偏高或偏低;(3)恒定性:大小基本不變,對(duì)測(cè)定結(jié)果的影響固定。(4)可校正性:其大小可以測(cè)定,可對(duì)結(jié)果進(jìn)行校正。系統(tǒng)誤差的校正方法:

選擇標(biāo)準(zhǔn)方法、提純?cè)噭┖褪褂眯U档绒k法加以消除。常采用對(duì)照試驗(yàn)和空白試驗(yàn)的方法。2023/7/24對(duì)照試驗(yàn)和空白試驗(yàn):(1)對(duì)照試驗(yàn):選擇一種標(biāo)準(zhǔn)方法與所用方法作對(duì)比或選擇與試樣組成接近的標(biāo)準(zhǔn)試樣作試驗(yàn),找出校正值加以校正。(2)空白試驗(yàn):指除了不加試樣外,其他試驗(yàn)步驟與試樣試驗(yàn)步驟完全一樣的實(shí)驗(yàn),所得結(jié)果稱為空白值。對(duì)試劑或?qū)嶒?yàn)用水是否帶入被測(cè)成份,或所含雜質(zhì)是否有干擾可通過空白試驗(yàn)扣除空白值加以修正。是否存在系統(tǒng)誤差,常常通過回收試驗(yàn)加以檢查。2023/7/24回收試驗(yàn):

在測(cè)定試樣某組分含量的基礎(chǔ)上,加入已知量的該組分,再次測(cè)定其組分含量。由回收試驗(yàn)所得數(shù)據(jù)計(jì)算出回收率。

由回收率的高低來判斷有無系統(tǒng)誤差存在。常量組分:一般為99%以上,微量組分:90~110%。2023/7/242.偶然誤差產(chǎn)生的原因、性質(zhì)及減免產(chǎn)生的原因:由一些無法控制的不確定因素引起的。(1)如環(huán)境溫度、濕度、電壓、污染情況等的變化引起樣品質(zhì)量、組成、儀器性能等的微小變化;(2)操作人員實(shí)驗(yàn)過程中操作上的微小差別;(3)其他不確定因素等所造成。性質(zhì):時(shí)大時(shí)小,可正可負(fù)。減免方法:無法消除。通過增加平行測(cè)定次數(shù),降低;

過失誤差(粗差):認(rèn)真操作,可以完全避免。2023/7/242.1.5偶然誤差的分布服從正態(tài)分布橫坐標(biāo):偶然誤差的值,縱坐標(biāo):誤差出現(xiàn)的概率大小。1.服從正態(tài)分布的前提

測(cè)定次數(shù)無限多;系統(tǒng)誤差已經(jīng)排除。2.定義2023/7/243.偶然誤差分布具有以下性質(zhì)(1)對(duì)稱性:相近的正誤差和負(fù)誤差出現(xiàn)的概率相等,誤差分布曲線對(duì)稱;(2)單峰性:小誤差出現(xiàn)的概率大,大誤差的概率小。誤差分布曲線只有一個(gè)峰值。誤差有明顯集中趨勢(shì);(3)有界性:由偶然誤差造成的誤差不可能很大,即大誤差出現(xiàn)的概率很小;(4)抵償性;誤差的算術(shù)平均值的極限為零。2023/7/244.誤差范圍與出現(xiàn)的概率之間的關(guān)系2023/7/245.置信度與置信區(qū)間置信度(ConfidenceLevel):在某一定范圍內(nèi)測(cè)定值或誤差出現(xiàn)的概率。

68.3%,95.5%,99.7%即為置信度置信區(qū)間(ConfidenceInterval):真實(shí)值在指定概率下,分布的某個(gè)區(qū)間。μ±σ,μ±2σ,μ±3σ等稱為置信區(qū)間。置信度選得高,置信區(qū)間就寬。2023/7/242.1.6有限次測(cè)定中偶然誤差服從t分布可衍生出:

有限次測(cè)定無法計(jì)算總體標(biāo)準(zhǔn)差σ和總體平均值μ,則偶然誤差并不完全服從正態(tài)分布,服從類似于正態(tài)分布的t分布(t分布由英國(guó)統(tǒng)計(jì)學(xué)家與化學(xué)家W.S.Gosset提出,以Student的筆名發(fā)表)。

t的定義與u

一致,用s

代替σ,2023/7/24t分布曲線

t分布曲線隨自由度f(f=n-1)而變,當(dāng)f>20時(shí),與正態(tài)分布曲線很近似,當(dāng)f→∞時(shí),二者一致。t分布在分析化學(xué)中應(yīng)用很多。

t值與置信度和測(cè)定值的次數(shù)有關(guān),可由表2-2中查得。2023/7/24表2-2t值表返回例3、例4(1);

(2)2023/7/24討論:(1)由式:(2)置信區(qū)間的寬窄與置信度、測(cè)定值的精密度和測(cè)定次數(shù)有關(guān),當(dāng)測(cè)定值精密度↑(s值小),測(cè)定次數(shù)愈多(n↑)時(shí),置信區(qū)間↓,即平均值愈接近真值,平均值愈可靠。得:2023/7/24(3)上式的意義:在一定置信度下(如95%),真值(總體平均值)將在測(cè)定平均值附近的一個(gè)區(qū)間即在之間存在,把握程度95%。該式常作為分析結(jié)果的表達(dá)式。(4)置信度↑,置信區(qū)間↑,其區(qū)間包括真值的可能性↑,一般將置信度定為95%或90%。2023/7/24例3:

測(cè)定SiO2的質(zhì)量分?jǐn)?shù),得到下列數(shù)據(jù),求平均值、標(biāo)準(zhǔn)偏差、置信度分別為90%和95%時(shí)平均值的置信區(qū)間。28.62,28.59,28.51,28.48,28.52,28.63解:查表2-2置信度為90%,n=6時(shí),t=2.015。置信度為95%時(shí):置信度↑,置信區(qū)間↑。2023/7/24例4:

測(cè)定鋼中含鉻量時(shí),先測(cè)定兩次,測(cè)得的質(zhì)量分?jǐn)?shù)為1.12%和1.15%;再測(cè)定三次,測(cè)得的數(shù)據(jù)為1.11%,1.16%和1.12%。計(jì)算兩次測(cè)定和五次測(cè)定平均值的置信區(qū)間(95%置信度)。查表2-2,得t95%=12.7。解:n=2時(shí)2023/7/24

n=5時(shí):查表2-2,得t95%=2.78。在一定測(cè)定次數(shù)范圍內(nèi),適當(dāng)增加測(cè)定次數(shù),可使置信區(qū)間顯著縮小,即可使測(cè)定的平均值與總體平均值μ接近。2023/7/242.1.7公差

公差:生產(chǎn)部門對(duì)于分析結(jié)果允許誤差的一種表示法

超差:分析結(jié)果超出允許的公差范圍。需重做。公差的確定:(1)組成較復(fù)雜的分析,允許公差范圍寬一些;(2)一般工業(yè)分析,允許相對(duì)誤差在百分之幾到千分之幾;(3)而原子質(zhì)量的測(cè)定,要求相對(duì)誤差很??;(4)國(guó)家規(guī)定。2023/7/24

鋼中的硫含量分析的允許公差范圍

國(guó)家標(biāo)準(zhǔn)中,對(duì)含量與允許公差之關(guān)系常常用回歸方程式表示。2023/7/24§2.2分析結(jié)果的數(shù)據(jù)處理為什么要對(duì)數(shù)據(jù)進(jìn)行處理?

個(gè)別偏離較大的數(shù)據(jù)(稱為離群值或極值)是保留還是該棄去?測(cè)得的平均值與真值(或標(biāo)準(zhǔn)值)的差異,是否合理?相同方法測(cè)得的兩組數(shù)據(jù)或用兩種不同方法對(duì)同一試樣測(cè)得的兩組數(shù)據(jù)間的差異是否在允許的范圍內(nèi)?數(shù)據(jù)進(jìn)行處理包括哪些方面?

可疑數(shù)據(jù)的取舍——過失誤差的判斷

分析方法的準(zhǔn)確度(可靠性)——系統(tǒng)誤差的判斷2023/7/24(1)排序:x1,x2,

x3,

x4……(2)求和標(biāo)準(zhǔn)偏差s(3)計(jì)算G值:2.2.1可疑數(shù)據(jù)的取舍1.Grubbs

法(4)由測(cè)定次數(shù)和要求的置信度,查表得G表(5)比較

若G計(jì)算>G

表,棄去可疑值,反之保留。

由于格魯布斯(Grubbs)檢驗(yàn)法引入了標(biāo)準(zhǔn)偏差,故準(zhǔn)確性比Q檢驗(yàn)法高。2023/7/24表2-3

G(p,n)值表2023/7/242.Q值檢驗(yàn)法(1)數(shù)據(jù)排列x1

x2……xn(2)求極差xn-x1(3)求可疑數(shù)據(jù)與相鄰差:xn-xn-1或x2-x1(4)計(jì)算:(5)根據(jù)測(cè)定次數(shù)和要求的置信度,(如90%)查表2-4:(6)將Q與Qx(如Q90)相比,若Q>Qx

舍棄該數(shù)據(jù),(過失誤差造成)若Q≤Qx

保留該數(shù)據(jù),(偶然誤差所致)2023/7/24表2-4

Q

值表2023/7/24例5:

測(cè)定某藥物中Co的含量(10-4)得到結(jié)果如下:1.25,1.27,1.31,1.40,用Grubbs法和Q值檢驗(yàn)法判斷1.40是否保留。查表2-3,置信度選95%,n=4,G表=1.46

G計(jì)算<G表故1.40應(yīng)保留。解:①用Grubbs法:x=1.31;s=0.0662023/7/24②用Q值檢驗(yàn)法:可疑值xn查表2-4,n=4,

Q0.90=0.76Q計(jì)算<Q0.90故1.40應(yīng)保留。2023/7/24討論:(1)

Q值法不必計(jì)算x

及s,使用比較方便;(2)Q值法在統(tǒng)計(jì)上有可能保留離群較遠(yuǎn)的值。(3)Grubbs法引入s,判斷更準(zhǔn)確。(4)不能追求精密度而隨意丟棄數(shù)據(jù);必須進(jìn)行檢驗(yàn);例:三個(gè)測(cè)定值,40.12,40.16和40.18置信區(qū)間:40.07~40.23之間(置信度為95%)。置信區(qū)間:40.04~40.30,變大。舍去40.12:2023/7/242.2.2平均值與標(biāo)準(zhǔn)值的比較(方法準(zhǔn)確性)

檢驗(yàn)一個(gè)分析方法是否可靠,常用已知含量的標(biāo)準(zhǔn)試樣,用t檢驗(yàn)法將測(cè)定平均值與已知值(標(biāo)樣值)比較:若t計(jì)算>t表,則與已知值有顯著差別(存在系統(tǒng)誤差)。若t計(jì)算≤t表,正常差異(偶然誤差引起的)。2023/7/24例6:

用一種新方法來測(cè)定試樣含銅量,用含量為11.7mg/kg的標(biāo)準(zhǔn)試樣,進(jìn)行五次測(cè)定,所得數(shù)據(jù)為:10.9,11.8,10.9,10.3,10.0判斷該方法是否可行?(是否存在系統(tǒng)誤差)。解:計(jì)算平均值=10.8,標(biāo)準(zhǔn)偏差S=0.7查表2-2t值表,t(0.95,n=5)=2.78t計(jì)算

>t表說明該方法存在系統(tǒng)誤差,結(jié)果偏低。2023/7/242.2.3兩個(gè)平均值的比較相同試樣、兩種分析方法所得平均值的比較(缺標(biāo)準(zhǔn)值時(shí))——系統(tǒng)誤差的判斷

對(duì)兩個(gè)分析人員測(cè)定相同試樣所得結(jié)果進(jìn)行評(píng)價(jià);對(duì)兩個(gè)單位測(cè)定相同試樣所得結(jié)果進(jìn)行評(píng)價(jià);對(duì)兩種方法進(jìn)行比較,即是否有系統(tǒng)誤差存在;判斷方法:

t檢驗(yàn)法;F

檢驗(yàn)法前提:

兩個(gè)平均值的精密度沒有大的差別。2023/7/24F

檢驗(yàn)法也稱方差比檢驗(yàn):若F計(jì)算<F表,(F表,查表2-5),再繼續(xù)用t檢驗(yàn)判斷與是否有顯著性差異;若F計(jì)算>F表,被檢驗(yàn)的分析方法存在較大的系統(tǒng)誤差。t檢驗(yàn)式:2023/7/24表2-5置信度95%時(shí)F值fs大:方差大的數(shù)據(jù)的自由度;fs?。悍讲钚〉臄?shù)據(jù)的自由度。(f=n-1)2023/7/24例7:甲、乙二人對(duì)同一試樣用不同方法進(jìn)行測(cè)定,得兩組測(cè)定值:甲:1.26,1.25,1.22乙:1.35,1.31,1.33,1.34問兩種方法間有無顯著性差異?解:n甲

=3S甲

=0.021n乙

=4S乙=0.017查表2-5,F(xiàn)值為9.55,說明兩組的方差無顯著性差異。進(jìn)一步用t公式進(jìn)行計(jì)算。2023/7/24再進(jìn)行

t檢驗(yàn):查表2-2t值表f=n1+n2-2=3+4-2=5,置信度95%t表=2.57,t計(jì)算>t表甲乙二人采用的不同方法間存在顯著性差異2023/7/24例7的討論:(1)計(jì)算表明甲乙二人采用的不同方法間存在顯著性差異;

系統(tǒng)誤差有多大?如何進(jìn)一步查明哪種方法可行?(2)分別與標(biāo)準(zhǔn)方法或使用標(biāo)準(zhǔn)樣品進(jìn)行對(duì)照試驗(yàn),根據(jù)實(shí)驗(yàn)結(jié)果進(jìn)行判斷。(3)本例中兩種方法所得平均值的差為:

其中包含了系統(tǒng)誤差和偶然誤差。(4)根據(jù)t分布規(guī)律,偶然誤差允許最大值為:說明可能有0.05的值由系統(tǒng)誤差產(chǎn)生。2023/7/24*§2.3誤差的傳遞

分析結(jié)果包含了多步計(jì)算;每個(gè)測(cè)量值的誤差將傳遞到最后的結(jié)果中去?傳遞方式隨系統(tǒng)誤差和偶然誤差而不同。2.3.1

系統(tǒng)誤差的傳遞公式

如以測(cè)定量A、B、C為基礎(chǔ),得出分析結(jié)果R。1.加減法運(yùn)算

R=A+B-C(△R)max=△A+△B+△C2023/7/242.乘除法運(yùn)算

R=AB/C

最大可能誤差,即各測(cè)定量的誤差相互累加。但在實(shí)際工作中,各測(cè)定量的誤差可能相互部分抵消使得分析結(jié)果的誤差比計(jì)算的最大可能誤差要小。2023/7/242.3.2偶然誤差的傳遞公式1.加減法運(yùn)算

式中:S為標(biāo)準(zhǔn)偏差,SA即A的標(biāo)準(zhǔn)偏差。2.乘除法運(yùn)算2023/7/24§2.4有效數(shù)字及其運(yùn)算規(guī)則

2.4.1有效數(shù)字

1.實(shí)驗(yàn)過程中遇到的兩類數(shù)字

(1)非測(cè)量值如測(cè)定次數(shù);倍數(shù);系數(shù);分?jǐn)?shù);常數(shù)(π)有效數(shù)字位數(shù)可看作無限多位。(2)測(cè)量值或計(jì)算值數(shù)據(jù)位數(shù)反映測(cè)量的精確程度。這類數(shù)字稱為有效數(shù)字??梢蓴?shù)字:有效數(shù)字的最后一位數(shù)字,通常為估計(jì)值,不準(zhǔn)確。一般有效數(shù)字的最后一位數(shù)字有±1個(gè)單位的誤差。2023/7/242.

有關(guān)有效數(shù)字的討論

(1)正確記錄實(shí)驗(yàn)數(shù)據(jù)用分析天平與用托盤天平稱取試樣的不同。(2)實(shí)驗(yàn)記錄的數(shù)字不僅表示數(shù)量的大小,而且要正確地反映測(cè)量的精確程度。(3)一般有效數(shù)字的最后一位數(shù)字有±1個(gè)單位的誤差。結(jié)果絕對(duì)偏差相對(duì)偏差有效數(shù)字位數(shù)0.51800±0.00001±0.002%50.5180±0.0001±0.02%40.518±0.001±0.2%32023/7/24(4)數(shù)據(jù)中零的作用

數(shù)字零在數(shù)據(jù)中具有雙重作用:

a.作普通數(shù)字用,如0.5180;4位有效數(shù)字5.18010-1

b.作定位用,如0.0518;3位有效數(shù)字5.1810-2(5)注意點(diǎn)

a.容量器皿:滴定管,移液管,容量瓶;4位有效數(shù)字

b.分析天平(萬分之一)取4位有效數(shù)字

c.標(biāo)準(zhǔn)溶液的濃度,用4位有效數(shù)字表示:0.1000mol/Ld.pH=4.34,小數(shù)點(diǎn)后的數(shù)字位數(shù)為有效數(shù)字位數(shù)對(duì)數(shù)值,lgX=2.38;lg(2.4102)2023/7/242.4.2修約規(guī)則1.為什么要進(jìn)行修約?

數(shù)字位數(shù)能正確表達(dá)實(shí)驗(yàn)的準(zhǔn)確度,舍去多余的數(shù)字。2.修約規(guī)則:“四舍六入五留雙”

(1)當(dāng)多余尾數(shù)≤4時(shí)舍去尾數(shù),≥6時(shí)進(jìn)位。(2)尾數(shù)正好是5時(shí)分兩種情況:

a.若5后數(shù)字不為0,一律進(jìn)位,0.1067534

b.5后無數(shù)或?yàn)?,采用5前是奇數(shù)則將5進(jìn)位,5前是偶數(shù)則把5舍棄,簡(jiǎn)稱“奇進(jìn)偶舍”。0.43715;0.43725數(shù)據(jù)修約規(guī)則可參閱GB8170-87。2023/7/243.示例與討論(1)示例:保留四位有效數(shù)字,修約:14.2442→14.2426.4863→26.4915.0250→15.0215.0150→15.0215.0251→15.03(2)一次修約到位,不能連續(xù)多次的修約如2.3457修約到兩位,應(yīng)為2.3,如連續(xù)修約則為2.3457→2.346→2.35→2.4不對(duì)。2023/7/242.4.3運(yùn)算規(guī)則1.加減法運(yùn)算

結(jié)果的位數(shù)取決于絕對(duì)誤差最大的數(shù)據(jù)的位數(shù)

例:0.0121絕對(duì)誤差:0.000125.640.011.0570.00126.70912023/7/242.乘除法運(yùn)算

有效數(shù)字的位數(shù)取決于相對(duì)誤差最大的數(shù)據(jù)的位數(shù)。

例:(0.03255.10360.0)/139.8=0.0711791840.0325±0.0001/0.0325100%=±0.3%5.103±0.001/5.103100%=±0.02%60.06±0.01/60.06100%=±0.02%139.8±0.1/139.8100%=±0.07%

先修約再運(yùn)算?先運(yùn)算再修約?結(jié)果數(shù)值有時(shí)不一樣。將參與運(yùn)算的各數(shù)的有效數(shù)字位數(shù)修約到比該數(shù)應(yīng)有的有效數(shù)字位數(shù)多一位(多取的數(shù)字稱為安全數(shù)字),再進(jìn)行運(yùn)算。2023/7/24§2.5標(biāo)準(zhǔn)曲線的回歸分析使用標(biāo)準(zhǔn)曲線來獲得試樣某組分

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論