有效數(shù)字的運(yùn)算規(guī)則課件

第六講

分析數(shù)據(jù)與處理荊州職業(yè)技術(shù)學(xué)院紡織服裝系鄒筠第六講

分析數(shù)據(jù)與處理荊州職業(yè)技術(shù)學(xué)院紡織服1一、有效數(shù)字及其應(yīng)用１、有效數(shù)字的意義及位數(shù)２、數(shù)字修約規(guī)則３、有效數(shù)字的運(yùn)算規(guī)則４、有效數(shù)字運(yùn)算規(guī)則在分析化學(xué)實(shí)驗(yàn)中的應(yīng)用一、有效數(shù)字及其應(yīng)用１、有效數(shù)字的意義及位數(shù)2１、有效數(shù)字的意義及位數(shù)

坩堝重18.5734克六位有效數(shù)字標(biāo)準(zhǔn)溶液體積24.41毫升四位有效數(shù)字

由于萬分之一的分析天平能稱準(zhǔn)至±0.0001克，滴定管的讀數(shù)能讀準(zhǔn)至±0.01毫升，故上述坩堝重應(yīng)是18.5734±0.0001克，標(biāo)準(zhǔn)溶液的體積應(yīng)是24.41±0.01毫升，因此這些數(shù)值的最后一位都是可疑的，這一位數(shù)字稱為“不定數(shù)字”。在分析工作中應(yīng)當(dāng)使測定的數(shù)值，只有最后一位是可疑的。例如：１、有效數(shù)字的意義及位數(shù)坩堝重18.5734克3有效數(shù)字的位數(shù)，直接與測定的相對誤差有關(guān)稱得某物重為0.5180克，它表示該物實(shí)際重量是0.5180±0.0001克，其相對誤差為：(±0.0001/0.5180)×100%＝±0.02%例有效數(shù)字的位數(shù)，直接與測定的相對誤差有關(guān)稱得某物重為0.514在測量準(zhǔn)確度的范圍內(nèi)，有效數(shù)字位數(shù)越多，測量也越準(zhǔn)確

如果少取一位有效數(shù)字，則表示該物實(shí)際重量是0.518±0.001克，其相對誤差為：(±0.001/0.518)×100%＝±0.2%在測量準(zhǔn)確度的范圍內(nèi)，有效數(shù)字位數(shù)越多，測量也越準(zhǔn)確如果少5哪些數(shù)據(jù)中的“0”不是有效數(shù)字？1.00050.5000；31.05%；6.023×10230.0540；1.86×10-50.0054；0.40%0.5；0.002%五位有效數(shù)字四位有效數(shù)字三位有效數(shù)字兩位有效數(shù)字一位有效數(shù)字哪些數(shù)據(jù)中的“0”不是有效數(shù)字？1.00056在記錄測量數(shù)據(jù)和計(jì)算結(jié)果時(shí)，應(yīng)根據(jù)所使用的儀器的準(zhǔn)確度，必須使所保留的有效數(shù)字中，只有最后一位數(shù)是“不定數(shù)字”。用感量為百分之一克的臺秤稱物體的重量，由于儀器本身能準(zhǔn)確稱到±0.0l克，所以物體的重量如果是10.4克，就應(yīng)寫成10.40克，不能寫成10.4克。例如在記錄測量數(shù)據(jù)和計(jì)算結(jié)果時(shí)，應(yīng)根據(jù)所使用的儀器的準(zhǔn)確度，必須7遇到pH、pC、lgK等對數(shù)值，其有效數(shù)字的位數(shù)怎么算？有效數(shù)字的位數(shù)僅取決于小數(shù)部分?jǐn)?shù)字的位數(shù)，因整數(shù)部分只說明該數(shù)的方次pH＝12.68，即[H+]＝2.1×l0-13mol/L，其有效數(shù)字為兩位，而不是四位。例遇到pH、pC、lgK等對數(shù)值，其有效數(shù)字的位數(shù)怎么算？有效8還有什么特例？對于非測量所得的數(shù)字，如倍數(shù)、分?jǐn)?shù)、π、e等等，它們沒有不確定性，其有效數(shù)字可視為無限多位，根據(jù)具體情況來確定。如果有效數(shù)字位數(shù)最少的因數(shù)的首位數(shù)是“8”或“9”，則有效數(shù)字可認(rèn)為比這個(gè)因數(shù)多取一位。還有什么特例？對于非測量所得的數(shù)字，如倍數(shù)、分?jǐn)?shù)、π、e等等9２、數(shù)字修約規(guī)則當(dāng)尾數(shù)≤4時(shí)將其舍去，尾數(shù)≥6時(shí)就進(jìn)一位；如果尾數(shù)為5而后面的數(shù)為0時(shí)則看前方：前方為奇數(shù)就進(jìn)位，前方為偶數(shù)則舍去；當(dāng)“5”后面還有不是0的任何數(shù)時(shí)，都須向前進(jìn)一位，無論前方是奇還是偶數(shù)，“0”則以偶數(shù)論四舍六入五留雙２、數(shù)字修約規(guī)則當(dāng)尾數(shù)≤4時(shí)將其舍去，尾數(shù)≥6時(shí)就進(jìn)一位；四10四舍六入五留雙0.53664→0.53660.58346→0.583510.2750→10.2816.4050→16.4027.1850→27.1818.06501→18.07例四舍六入五留雙0.53664→0.5366011３、有效數(shù)字的運(yùn)算規(guī)則(一)加減法

(二)乘除法

３、有效數(shù)字的運(yùn)算規(guī)則(一)加減法12(１)加減法

當(dāng)幾個(gè)數(shù)據(jù)相加或相減時(shí)、它們的和或差的有效數(shù)字的保留，應(yīng)以小數(shù)點(diǎn)后位數(shù)最少，即絕對誤差最大的的數(shù)據(jù)為依據(jù)。0.0121＋25.64＋1.05782＝0.01＋25.64＋1.06＝26.71例(１)加減法當(dāng)幾個(gè)數(shù)據(jù)相加或相減時(shí)、它們的和或差的有效數(shù)字13什么叫安全數(shù)？

在大量數(shù)據(jù)的運(yùn)算中。為使誤差不迅速積累，對參加運(yùn)算的所有數(shù)據(jù)，可以多保留一位可疑數(shù)字(多保留的這一位數(shù)字叫“安全數(shù)字”)。如計(jì)算5.2727、0.075、3.7及2.12的總和時(shí)，根據(jù)上述規(guī)則，只應(yīng)保留一位小數(shù)。但在運(yùn)算中可以多保留一位，故5.2727應(yīng)寫成5.27；0.075應(yīng)寫成0.08；2.12應(yīng)寫成2.12。因此其和為：5.27+0.08+3.7+2.12＝11.17然后、再根據(jù)修約規(guī)則把11.17整化成11.2。什么叫安全數(shù)？在大量數(shù)據(jù)的運(yùn)算中。為使誤差不迅速積累，14(２)乘除法

幾個(gè)數(shù)據(jù)相乘除時(shí)，積或商的有效數(shù)字的保留，應(yīng)以其中相對誤差最大的那個(gè)數(shù)，即有效數(shù)字位數(shù)最少的那個(gè)數(shù)為依據(jù)。0.0121×25.64×1.05782＝0.0121×25.6×1.06＝0.328(２)乘除法幾個(gè)數(shù)據(jù)相乘除時(shí)，積或商的有效數(shù)字的保留，15４、有效數(shù)字的運(yùn)算規(guī)則在分析化學(xué)實(shí)驗(yàn)中的應(yīng)用1．根據(jù)分析儀器和分析方法的準(zhǔn)確度正確讀出和記錄測定值，且只保留一位可疑數(shù)字。2．在計(jì)算結(jié)果之前，先根據(jù)運(yùn)算方法確定欲保留的位數(shù)，然后按照數(shù)字修約規(guī)則對各測定值進(jìn)行修約，先修約，后計(jì)算。４、有效數(shù)字的運(yùn)算規(guī)則在分析化學(xué)實(shí)驗(yàn)中的應(yīng)用1．根據(jù)分16二、有限實(shí)驗(yàn)數(shù)據(jù)的統(tǒng)計(jì)處理１、測定結(jié)果的表示２、置信度與置信區(qū)間３、可疑數(shù)據(jù)的取舍二、有限實(shí)驗(yàn)數(shù)據(jù)的統(tǒng)計(jì)處理１、測定結(jié)果的表示17１、測定結(jié)果的表示（１）算術(shù)平均值：數(shù)據(jù)的集中趨勢（２）標(biāo)準(zhǔn)偏差：數(shù)據(jù)的分散程度（３）變異系數(shù)：ＣＶＳ１、測定結(jié)果的表示（１）算術(shù)平均值：數(shù)據(jù)的集中趨勢Ｓ18

表７-４t分布值表

t值P90%95%99%99.5%f(n-1)

16.3112.7163.66127.3222.924.309.9214.9832.353.185.847.4542.132.784.605.6052.022.574.034.7761.942.453.714.3271.902.363.504.0381.862.313.353.8391.832.263.253.69101.812.233.173.58201.722.092.843.15301.702.042.75(3.01)601.672.002.66(2.87)1201.661.982.622.81∞1.641.962.582.81２、置信度與置信度區(qū)間表７-４t分布值表２、置信度與置信度區(qū)間19３、可疑測定值的取舍（１）Q檢驗(yàn)法檢驗(yàn)步驟①將測定值由小至大按順序排列，其中可疑值為x1或xn：x1＜x2＜x3＜…＜xn②求舍棄商值

③查Ｑ表。表７－５為兩種置信度下的Ｑ表。若Ｑ計(jì)＞Ｑ表，則舍去可疑值；若Ｑ計(jì)≤Ｑ表，則可疑值應(yīng)保留。

３、可疑測定值的取舍（１）Q檢驗(yàn)法20

Q值越大，說明離群越遠(yuǎn)，遠(yuǎn)至一定程度時(shí)則應(yīng)將其舍去。故Q稱為舍棄商。Ｑ值計(jì)算式Q值越大，說明離群越遠(yuǎn)，遠(yuǎn)至一定程度時(shí)則應(yīng)將其舍去。故Q21可疑值取舍訓(xùn)練題某人測定一溶液濃度，獲得以下結(jié)果：0.2038mol/L、0.2042mol/L、0.2052mol/L、0.2392mol/L，第四個(gè)數(shù)據(jù)應(yīng)否棄去？結(jié)果應(yīng)如何表示？若又測定了第五次，結(jié)果為0.2041mol/L，這時(shí)第四個(gè)數(shù)據(jù)可以棄去嗎？（置信度為90%）可疑值取舍訓(xùn)練題某人測定一溶液濃度，獲得以下結(jié)果：0.222表７－５兩種置信度下舍棄可疑數(shù)據(jù)的Ｑ表測定次數(shù)３４５６７８９１０P=0.950.940.760.40.560.510.470.440.41P=0.951.531.050.860.760.690.640.600.58表７－５兩種置信度下舍棄可疑數(shù)據(jù)的Ｑ表測定次數(shù)３４５６７８９23練習(xí)１、甲乙二人同時(shí)分析一礦物試樣中硫的質(zhì)量分?jǐn)?shù)時(shí)，每次稱取試樣3.5g，分析結(jié)果報(bào)告為；甲，0.042%；0.041%乙，0.04099%、0.04201%。問哪一份報(bào)告是合理的，為什么？2、下列數(shù)值各有幾位有效數(shù)字？ 0.038；42.080；6.3×10-8；2.310×109；1000；200.00；pH=6.6練習(xí)１、甲乙二人同時(shí)分析一礦物試樣中硫的質(zhì)量分?jǐn)?shù)時(shí)，每243、按有效數(shù)字計(jì)算下列結(jié)果：（1）231.64+4.4+0.3244（2）（3）pH=12.20溶液的［Ｈ＋］=236.3=2.594=6.3×10-133、按有效數(shù)字計(jì)算下列結(jié)果：=236.3=2.594=25第六講

分析數(shù)據(jù)與處理荊州職業(yè)技術(shù)學(xué)院紡織服裝系鄒筠第六講

分析數(shù)據(jù)與處理荊州職業(yè)技術(shù)學(xué)院紡織服26一、有效數(shù)字及其應(yīng)用１、有效數(shù)字的意義及位數(shù)２、數(shù)字修約規(guī)則３、有效數(shù)字的運(yùn)算規(guī)則４、有效數(shù)字運(yùn)算規(guī)則在分析化學(xué)實(shí)驗(yàn)中的應(yīng)用一、有效數(shù)字及其應(yīng)用１、有效數(shù)字的意義及位數(shù)27１、有效數(shù)字的意義及位數(shù)

坩堝重18.5734克六位有效數(shù)字標(biāo)準(zhǔn)溶液體積24.41毫升四位有效數(shù)字

由于萬分之一的分析天平能稱準(zhǔn)至±0.0001克，滴定管的讀數(shù)能讀準(zhǔn)至±0.01毫升，故上述坩堝重應(yīng)是18.5734±0.0001克，標(biāo)準(zhǔn)溶液的體積應(yīng)是24.41±0.01毫升，因此這些數(shù)值的最后一位都是可疑的，這一位數(shù)字稱為“不定數(shù)字”。在分析工作中應(yīng)當(dāng)使測定的數(shù)值，只有最后一位是可疑的。例如：１、有效數(shù)字的意義及位數(shù)坩堝重18.5734克28有效數(shù)字的位數(shù)，直接與測定的相對誤差有關(guān)稱得某物重為0.5180克，它表示該物實(shí)際重量是0.5180±0.0001克，其相對誤差為：(±0.0001/0.5180)×100%＝±0.02%例有效數(shù)字的位數(shù)，直接與測定的相對誤差有關(guān)稱得某物重為0.5129在測量準(zhǔn)確度的范圍內(nèi)，有效數(shù)字位數(shù)越多，測量也越準(zhǔn)確

如果少取一位有效數(shù)字，則表示該物實(shí)際重量是0.518±0.001克，其相對誤差為：(±0.001/0.518)×100%＝±0.2%在測量準(zhǔn)確度的范圍內(nèi)，有效數(shù)字位數(shù)越多，測量也越準(zhǔn)確如果少30哪些數(shù)據(jù)中的“0”不是有效數(shù)字？1.00050.5000；31.05%；6.023×10230.0540；1.86×10-50.0054；0.40%0.5；0.002%五位有效數(shù)字四位有效數(shù)字三位有效數(shù)字兩位有效數(shù)字一位有效數(shù)字哪些數(shù)據(jù)中的“0”不是有效數(shù)字？1.000531在記錄測量數(shù)據(jù)和計(jì)算結(jié)果時(shí)，應(yīng)根據(jù)所使用的儀器的準(zhǔn)確度，必須使所保留的有效數(shù)字中，只有最后一位數(shù)是“不定數(shù)字”。用感量為百分之一克的臺秤稱物體的重量，由于儀器本身能準(zhǔn)確稱到±0.0l克，所以物體的重量如果是10.4克，就應(yīng)寫成10.40克，不能寫成10.4克。例如在記錄測量數(shù)據(jù)和計(jì)算結(jié)果時(shí)，應(yīng)根據(jù)所使用的儀器的準(zhǔn)確度，必須32遇到pH、pC、lgK等對數(shù)值，其有效數(shù)字的位數(shù)怎么算？有效數(shù)字的位數(shù)僅取決于小數(shù)部分?jǐn)?shù)字的位數(shù)，因整數(shù)部分只說明該數(shù)的方次pH＝12.68，即[H+]＝2.1×l0-13mol/L，其有效數(shù)字為兩位，而不是四位。例遇到pH、pC、lgK等對數(shù)值，其有效數(shù)字的位數(shù)怎么算？有效33還有什么特例？對于非測量所得的數(shù)字，如倍數(shù)、分?jǐn)?shù)、π、e等等，它們沒有不確定性，其有效數(shù)字可視為無限多位，根據(jù)具體情況來確定。如果有效數(shù)字位數(shù)最少的因數(shù)的首位數(shù)是“8”或“9”，則有效數(shù)字可認(rèn)為比這個(gè)因數(shù)多取一位。還有什么特例？對于非測量所得的數(shù)字，如倍數(shù)、分?jǐn)?shù)、π、e等等34２、數(shù)字修約規(guī)則當(dāng)尾數(shù)≤4時(shí)將其舍去，尾數(shù)≥6時(shí)就進(jìn)一位；如果尾數(shù)為5而后面的數(shù)為0時(shí)則看前方：前方為奇數(shù)就進(jìn)位，前方為偶數(shù)則舍去；當(dāng)“5”后面還有不是0的任何數(shù)時(shí)，都須向前進(jìn)一位，無論前方是奇還是偶數(shù)，“0”則以偶數(shù)論四舍六入五留雙２、數(shù)字修約規(guī)則當(dāng)尾數(shù)≤4時(shí)將其舍去，尾數(shù)≥6時(shí)就進(jìn)一位；四35四舍六入五留雙0.53664→0.53660.58346→0.583510.2750→10.2816.4050→16.4027.1850→27.1818.06501→18.07例四舍六入五留雙0.53664→0.5366036３、有效數(shù)字的運(yùn)算規(guī)則(一)加減法

(二)乘除法

３、有效數(shù)字的運(yùn)算規(guī)則(一)加減法37(１)加減法

當(dāng)幾個(gè)數(shù)據(jù)相加或相減時(shí)、它們的和或差的有效數(shù)字的保留，應(yīng)以小數(shù)點(diǎn)后位數(shù)最少，即絕對誤差最大的的數(shù)據(jù)為依據(jù)。0.0121＋25.64＋1.05782＝0.01＋25.64＋1.06＝26.71例(１)加減法當(dāng)幾個(gè)數(shù)據(jù)相加或相減時(shí)、它們的和或差的有效數(shù)字38什么叫安全數(shù)？

在大量數(shù)據(jù)的運(yùn)算中。為使誤差不迅速積累，對參加運(yùn)算的所有數(shù)據(jù)，可以多保留一位可疑數(shù)字(多保留的這一位數(shù)字叫“安全數(shù)字”)。如計(jì)算5.2727、0.075、3.7及2.12的總和時(shí)，根據(jù)上述規(guī)則，只應(yīng)保留一位小數(shù)。但在運(yùn)算中可以多保留一位，故5.2727應(yīng)寫成5.27；0.075應(yīng)寫成0.08；2.12應(yīng)寫成2.12。因此其和為：5.27+0.08+3.7+2.12＝11.17然后、再根據(jù)修約規(guī)則把11.17整化成11.2。什么叫安全數(shù)？在大量數(shù)據(jù)的運(yùn)算中。為使誤差不迅速積累，39(２)乘除法

幾個(gè)數(shù)據(jù)相乘除時(shí)，積或商的有效數(shù)字的保留，應(yīng)以其中相對誤差最大的那個(gè)數(shù)，即有效數(shù)字位數(shù)最少的那個(gè)數(shù)為依據(jù)。0.0121×25.64×1.05782＝0.0121×25.6×1.06＝0.328(２)乘除法幾個(gè)數(shù)據(jù)相乘除時(shí)，積或商的有效數(shù)字的保留，40４、有效數(shù)字的運(yùn)算規(guī)則在分析化學(xué)實(shí)驗(yàn)中的應(yīng)用1．根據(jù)分析儀器和分析方法的準(zhǔn)確度正確讀出和記錄測定值，且只保留一位可疑數(shù)字。2．在計(jì)算結(jié)果之前，先根據(jù)運(yùn)算方法確定欲保留的位數(shù)，然后按照數(shù)字修約規(guī)則對各測定值進(jìn)行修約，先修約，后計(jì)算。４、有效數(shù)字的運(yùn)算規(guī)則在分析化學(xué)實(shí)驗(yàn)中的應(yīng)用1．根據(jù)分41二、有限實(shí)驗(yàn)數(shù)據(jù)的統(tǒng)計(jì)處理１、測定結(jié)果的表示２、置信度與置信區(qū)間３、可疑數(shù)據(jù)的取舍二、有限實(shí)驗(yàn)數(shù)據(jù)的統(tǒng)計(jì)處理１、測定結(jié)果的表示42１、測定結(jié)果的表示（１）算術(shù)平均值：數(shù)據(jù)的集中趨勢（２）標(biāo)準(zhǔn)偏差：數(shù)據(jù)的分散程度（３）變異系數(shù)：ＣＶＳ１、測定結(jié)果的表示（１）算術(shù)平均值：數(shù)據(jù)的集中趨勢Ｓ43

表７-４t分布值表

t值P90%95%99%99.5%f(n-1)

16.3112.7163.66127.3222.924.309.9214.9832.353.185.847.4542.132.784.605.6052.022.574.034.7761.942.453.714.3271.902.363.504.0381.862.313.353.8391.832.263.253.69101.812.233.173.58201.722.092.843.15301.702.042.75(3.01)601.672.002.66(2.87)1201.661.982.622.81∞1.641.9