數(shù)字運(yùn)算、修約、極限數(shù)值表示方法講義

1、數(shù)字運(yùn)算、修約、極限數(shù)值判定與表示方法一、 數(shù)字運(yùn)算二、 數(shù)值修約規(guī)則三、 極限數(shù)值的表示方法和判定方法一、 數(shù)字運(yùn)算在檢驗(yàn)過程中，對(duì)檢驗(yàn)所得的數(shù)據(jù)如何進(jìn)行計(jì)算、整理，如何按照技術(shù)標(biāo)準(zhǔn)要求作出判定，是檢驗(yàn)人員必須掌握的基礎(chǔ)知識(shí)。1、有效位數(shù)在檢驗(yàn)過程中，記錄數(shù)據(jù)和計(jì)算結(jié)果究竟應(yīng)該保留幾位數(shù)字？有的檢驗(yàn)人員認(rèn)為記錄和計(jì)算保留的位數(shù)越多越準(zhǔn)確，其實(shí)不然。由于檢驗(yàn)方法、儀器設(shè)備和人們感官分析能力的限制，測(cè)量中只能讀取一定位數(shù)的數(shù)字。讀取位數(shù)過多，不但不能提高檢驗(yàn)結(jié)果的準(zhǔn)確度，反而使計(jì)算工作量大大增加，而且還常常容易出錯(cuò)；讀取位數(shù)過少，則表達(dá)不出測(cè)量的準(zhǔn)確度。為了確切表達(dá)測(cè)量結(jié)果的位數(shù)，我們給出有效位

2、數(shù)的概念。若截取得到的近似數(shù)，其絕對(duì)誤差是末位上的半個(gè)單位，那么這個(gè)近似數(shù)，從第一個(gè)不是零的數(shù)字起到這個(gè)數(shù)位止，所有數(shù)字均稱為有效數(shù)字。一個(gè)進(jìn)似數(shù)有n個(gè)有效數(shù)字，也叫這個(gè)進(jìn)似數(shù)有n個(gè)有效位數(shù)。如3.1416、2.1173、180.00，均為五位有效數(shù)；而0.00274、274、27.4，均為三位有效數(shù)。在判斷有效數(shù)字時(shí)，要特別注意0這個(gè)數(shù)字，它可以是有效數(shù)字，也可以不是有效數(shù)字，例如：0.00274，前面三個(gè)0都不是有效數(shù)字，而180.00，后面三個(gè)0卻都是有效數(shù)字。因?yàn)榍罢吲c測(cè)量的精確度無關(guān)，而后者卻有關(guān)。為了說明這個(gè)問題，我們不妨各都去掉兩個(gè)0，即 0.00274=0.274×1

3、0-2表示其真值為： （0.27350.2745）×10-2其絕對(duì)誤差為：0.0005×10-2=0.000005而0.00274的絕對(duì)誤差也是0.000005，故去掉前面兩個(gè)0后，其絕對(duì)誤差不變；而對(duì)于180.00，若去掉后面兩個(gè)0，成為：180.00=180則其真值所在區(qū)間為：（180.5 179.5）其絕對(duì)誤差為0.5；但對(duì)于180.00來說，其真值所在區(qū)間應(yīng)為： （180.005 179.995）其絕對(duì)誤差為0.005，顯然，由于去掉右邊兩個(gè)0，而使絕對(duì)誤差由0.005變成了0.5，這樣就不對(duì)了。因此，絕對(duì)不可象對(duì)待準(zhǔn)確數(shù)那樣，隨隨便便去掉小數(shù)部分右邊的0，或在小數(shù)

4、部分右邊加上0，因?yàn)檫@樣做的結(jié)果，雖不會(huì)改變這個(gè)數(shù)的大小，卻改變了這個(gè)近似數(shù)的精確度。 對(duì)任一數(shù)值，其有效位數(shù)按下述原則確定：對(duì)沒有小數(shù)位且以若干個(gè)零結(jié)尾的數(shù)值，從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無效零（即僅為定位用的零）的個(gè)數(shù)；對(duì)其他十進(jìn)位數(shù)，從非零數(shù)字最左一位向右數(shù)而得到的位數(shù)，就是有效位數(shù)。例1：3.2、0.32、0.0032均為兩位有效位數(shù)； 0.320為三數(shù)有效位數(shù)；10.00為四位有效位數(shù)；12.490為五位有效位數(shù)。例2：35000，若有兩個(gè)無效零，則為三位有效位數(shù)，應(yīng)寫為350×102；若有三個(gè)無效零，則為兩位有效位數(shù)，應(yīng)寫為35×103。例3：12.4

5、90為五位有效位數(shù)；10.00為四位有效位數(shù)。2、有效位數(shù)的選擇（1）記錄數(shù)值時(shí)有效位數(shù)的選擇讀取或記錄測(cè)量數(shù)據(jù)時(shí)，一般按儀器最小分度值來讀數(shù)。對(duì)于那些需要做進(jìn)一步運(yùn)算的數(shù)值，則應(yīng)在按最小分度值讀取后再估讀一位。讀數(shù)時(shí)，小數(shù)末尾的零不能隨意取舍。（2）計(jì)算過程中有效位數(shù)的選擇 加減。幾個(gè)數(shù)相加或相減時(shí)，以小數(shù)部分位數(shù)最少的一數(shù)為準(zhǔn)，其余各數(shù)均修約或比該數(shù)多一位，然后運(yùn)算。例1：求1648.0，13.65，0.0082，1.632，86.82，5.135，316.34，0.545的和。解1648.0+13.65+0.0082+1.632+86.82+5.135+316.34+0.5451648.

6、0+13.65+0.01+1.63+86.82+5.14+316.34+0.54=2071.932071.9 乘除。幾個(gè)數(shù)相乘或相除時(shí)，以有效位數(shù)最少的一數(shù)為準(zhǔn)，其余各數(shù)均修約成比該數(shù)多一位，然后運(yùn)算。例2：0.0121×1.36872的積解：0.0121×1.368720.0121×1.369=0.01656490.0166乘方或開方。原數(shù)有幾位有效位數(shù)，計(jì)算結(jié)果就可保留幾位。若還參加運(yùn)算，則應(yīng)多保留一位。常數(shù)。對(duì)于某些常數(shù)，如、e及某些倍數(shù)或分?jǐn)?shù)可視為無限有效。計(jì)算過程中可根據(jù)需要確定有效位數(shù)。以上都是一些最簡(jiǎn)單的，通常所說的“一步運(yùn)算”的問題，但在實(shí)際問題中

7、遇到的計(jì)算，并不都這樣簡(jiǎn)單，往往在一個(gè)式子里會(huì)包括幾種不同的運(yùn)算，即所謂“多步運(yùn)算”的問題，在多步運(yùn)算的問題中，中間步驟計(jì)算的結(jié)果所保留的數(shù)字要比加減、乘除、乘方和開方的數(shù)字計(jì)算法則的規(guī)定多出一位。此外，在計(jì)算算術(shù)平均值時(shí)，若四個(gè)以上的數(shù)相平均，則平均值的有效位數(shù)可增加一位，這是因?yàn)槠骄档恼`差要比其它任何一個(gè)數(shù)的誤差小。二、數(shù)值修約規(guī)則在數(shù)據(jù)處理中，當(dāng)有效位數(shù)確定后，對(duì)有效位數(shù)之后的數(shù)字要進(jìn)行修約處理。修約按照國(guó)家標(biāo)準(zhǔn)GB8/T8170-87數(shù)值修約規(guī)則進(jìn)行。（一）修約間隔修約間隔是確定修約保留位數(shù)的一種方式。修約間隔的數(shù)值一經(jīng)給出，修約位數(shù)為該數(shù)值的整數(shù)倍。例如：指定修約間隔為0.1，修約

8、值總在0.1的整數(shù)倍中選取，即修約值保留一位小數(shù)。（二）半個(gè)單位修約和0.2單位修約1、 0.5單位修約（半個(gè)單位修約）指修約間隔為指定數(shù)位的0.5單位，即修約到指定數(shù)位的0.5個(gè)單位。具體辦法是：對(duì)擬修約值乘以2，按指定數(shù)位依照一般進(jìn)舍規(guī)則修約，將所得值除以2即得修約值。例如，將下列數(shù)值修約到個(gè)數(shù)位的半個(gè)單位（或修約間隔為0.5）擬修約值 乘以2 2A修約值 修約值 （A） （2A） （修約間隔:1） （修約間隔:0.5） 60.25 120.50 120 60.060.38 120.76 121 60.5-60.75 -121.50 -122 -61.02、0.2單位修約指修約間隔為指定數(shù)

9、位的0.2單位，即修約到指定數(shù)位的0.2個(gè)單位。具體辦法是，對(duì)擬修約值乘以5，按指定數(shù)值依照一般進(jìn)舍規(guī)則修約，將所得值除以5即得修約值。例如：將下列數(shù)值修約到百數(shù)位的0.2單位（或修約間隔為20）擬修約值 乘以5 5A修約值 修約值（A） （2A） （修約間隔:100） （修約間隔:20） 830 4150 4200 840 842 4250 4200 840-930 -4650 -4600 -920（三）進(jìn)舍規(guī)則進(jìn)舍規(guī)則可概括為如下口訣：“四舍六入五考慮，五后非零則進(jìn)一，五后皆零視奇偶，五前為偶應(yīng)舍去，五前為奇則進(jìn)一?！?、 擬舍棄數(shù)字的最左一位數(shù)字小于5時(shí)，則舍去即保留的各位數(shù)字不變。例1

10、：將12.1498修約到一位小數(shù)，得12.1。例2：將12.1498修約到兩位有效位數(shù)，得12。2、將某一數(shù)值修約為有效位數(shù)N位，當(dāng)?shù)贜+1位的數(shù)字小于5時(shí)，舍去；當(dāng)?shù)贜+1位的數(shù)字大于5，或者是5且其后并非全部為零時(shí)，則進(jìn)一。例如，下例左邊的數(shù)值修約為三位有效位數(shù)得右邊結(jié)果：2.32412.32，2.32632.33，2.325012.333、將某些數(shù)修約為有效位數(shù)N位，當(dāng)?shù)贜+1位數(shù)字為5，而右邊無數(shù)字或皆為零時(shí)，看保留數(shù)字是奇數(shù)還是偶數(shù)。若保留數(shù)字的最末一位為偶數(shù)時(shí)（2、4、6、8），舍去；保留數(shù)字的最末一位為奇數(shù)時(shí)（1、3、5、7、9），進(jìn)一。例1：間隔為0.1（或10-1）擬修約數(shù)值

11、 修約值1.050 1.0 0.350 0.4例2：修約間隔為1000（或103）擬修約數(shù)值 修約值2500 2×103 （特定時(shí)可寫為2000） 3500 4×103 （特定時(shí)可寫為4000） 例3：將下列數(shù)字修約成兩位有效位數(shù) 擬修約數(shù)值 修約值0.0325 0.03232500 32×103 （特定時(shí)可寫為32000） （四）負(fù)數(shù)修約先將負(fù)數(shù)的絕對(duì)值按上述方式進(jìn)行修約，然后在修約值前面加上負(fù)號(hào)。例1：將下列數(shù)字修約到“十”數(shù)位擬修約數(shù)值 修約值 -355 -36×10 （特定時(shí)可寫為-360） -325 -32×10 （特定時(shí)可寫為-32

12、0） 例2：將下列數(shù)字修約成兩位有效位數(shù) 擬修約數(shù) 修約值 -365 -36 ×10（特定時(shí)可寫為-360） -0.0365 -0.036 （五）不許連續(xù)修約1、擬修約數(shù)值應(yīng)在確定修約位數(shù)后一次修約獲得結(jié)果，而不得多次按上述規(guī)定連續(xù)修約。例1：7.35456要求三位有效位數(shù)時(shí)為7.35。不正確的做法：7.3545467.354557.35467.3557.36。例2：修約15.4546，修約間隔為1正確的做法：15.454615不正確的做法：15.454615.45515.4615.5162、在具體實(shí)施中，有時(shí)測(cè)試部門先將獲得數(shù)值按指定的修約位數(shù)多一位或幾位報(bào)出，而后由其他部門判定。

13、為避免產(chǎn)生連續(xù)修約的錯(cuò)誤，要求在報(bào)出數(shù)值最右的非零數(shù)字為5時(shí)，應(yīng)在數(shù)值后面加“（+）”或“（-）”或不加號(hào)，以分別表明已進(jìn)行過舍、進(jìn)或未舍未進(jìn)。例如：16.50（+）表式實(shí)際數(shù)大于16.50，經(jīng)修約舍棄成為16.50；16.50（-）表示實(shí)際值小于16.50，經(jīng)修約進(jìn)一成為16.50。三、極限數(shù)值判定與表示方法（一）書寫極限數(shù)值的一般原則1、 標(biāo)準(zhǔn)中規(guī)定考核的以數(shù)量形式給出的指標(biāo)或參數(shù)等，應(yīng)當(dāng)規(guī)定極限數(shù)值，它表示符合標(biāo)準(zhǔn)要求的數(shù)值范圍的界限。通過給出最小極限值和（或）最大極限值，或給出基本數(shù)值和極限偏差值等方式表達(dá)。2、 標(biāo)準(zhǔn)中極限數(shù)值的形式及書寫位數(shù)應(yīng)該適當(dāng)。它的有效位數(shù)應(yīng)全部寫出。書寫位數(shù)

14、表示的精確程度，應(yīng)能保證產(chǎn)品或其它標(biāo)準(zhǔn)化對(duì)象的應(yīng)有性能和質(zhì)量，從而它也規(guī)定了為檢驗(yàn)實(shí)際產(chǎn)品或其它標(biāo)準(zhǔn)化對(duì)象而得到的測(cè)定值或其計(jì)算值應(yīng)具有的相應(yīng)精確程度。 （二）表達(dá)極限數(shù)值的基本用語及其涵義1、 基本用語及其涵義基本用語 符號(hào) 特定情形下的基本用語 涵義 大于A A 多于A 高于A A值不符合要求小于A A 少于A 低于A A值不符合要求大于或等于A A 不小于A不少于A 不低于A A值符合要求 小于或等于A A 不大于A 不多于A 不高于A A值符合要求 基本用語也可組合使用，表明極限數(shù)值范圍。 不小于 不大于 例：C（%） 0.12 0.19 Si（%） 0.17 0.37 不多于、不少于

15、、多于、少于等用語宜用于敘述時(shí)間、距離指標(biāo)，以及僅取整數(shù)值的計(jì)算指標(biāo)等場(chǎng)合。如：使用壽命不少于3000h。 不高于、不低于、高于、低于等用語宜用于敘述溫度、高度（以向上作為正方向）指標(biāo)等場(chǎng)合。如：所用柴油閃點(diǎn)不低于60。 2、 允許的習(xí)慣用語及其涵義必要時(shí)，允許采用下列用語 “A及以上”，指數(shù)值大于或等于A（A）；“A及以下”，指數(shù)值小于或等于A（A）。 “超過A”，指數(shù)值大于A（A）；“不足A”，指數(shù)值小于A（A）；“至多A”，指數(shù)值小于或等于A（A）；“至少A”，指數(shù)值大于或等于A（A）。3、 帶有極限偏差的數(shù)值及其涵義某基本數(shù)值A(chǔ)帶有絕對(duì)極限上偏差值+b1和絕對(duì)極限偏差值-b2即A+b1

16、-b2，指從（A- b2）到（A+ b1）符合標(biāo)準(zhǔn)要求。例：80+2-1mm，指從79mm到82mm符合標(biāo)準(zhǔn)要求。某基本數(shù)值A(chǔ)帶有相對(duì)極限上偏差值+b1%和相對(duì)極限下偏差-b2%，即A+b1-b2%，指實(shí)測(cè)值或其計(jì)算值R對(duì)于A的相對(duì)偏差值（R-A）/A從-b2%到+b1%符合標(biāo)準(zhǔn)要求。若某個(gè)極限偏差值或B已超出標(biāo)準(zhǔn)要求，則應(yīng)附加括號(hào)，寫成“B（不含B）”。例：80+2-1mm（不含2），指從79mm到接近但不足82mm符合標(biāo)準(zhǔn)要求。（三）檢測(cè)結(jié)果的判定方法根據(jù)GB/T1250-89極限數(shù)值的表示方法和判定方法，在判定檢測(cè)數(shù)據(jù)是否符合標(biāo)準(zhǔn)要求時(shí)，應(yīng)將檢驗(yàn)所得的測(cè)定值或其計(jì)算值與標(biāo)準(zhǔn)規(guī)定的極限數(shù)值

17、作比較。比較的方法有全數(shù)值比較法和修約值比較法兩種。1、全數(shù)值比較法標(biāo)準(zhǔn)中各種極限數(shù)值（包括帶有極限偏差值的數(shù)值）未加說明時(shí)，均指采用全數(shù)值比較法。該方法是：將檢驗(yàn)所得的測(cè)定值或其計(jì)算值不經(jīng)修約處理（或按GB/T8170作修約處理，但應(yīng)表明它是經(jīng)舍、進(jìn)或未舍未進(jìn)而得），而用數(shù)值的全部數(shù)字與標(biāo)準(zhǔn)規(guī)定的極限數(shù)值作比較，只要越出規(guī)定的極限數(shù)值（不論越出程度大小），都判定為不符合標(biāo)準(zhǔn)要求。示例見下表。極限數(shù)值 測(cè)定值或其計(jì)算值 修約值 是否符合標(biāo)準(zhǔn)要求56×10 555 56×10(-) 不符 559 56×10(-) 不符 560 56 ×10 符合 565

18、56 ×10(+) 符合 97.0 97.01 97.0(+) 符合 97.00 97.0 符合 96.98 97.0（-） 不符 96.94 96.9（+） 不符 0.300.60 0.299 0.30(-) 不符 0.300 0.30 符合 0.600 0.60 符合 0.601 0.60（+） 不符 0.300.60 0.605 0.60(+) 不符2、修約值比較法凡標(biāo)準(zhǔn)中說采用修約值比較法的，應(yīng)采用修約值比較法。 將測(cè)定值或其計(jì)算值按GB/T8170進(jìn)行修約，修約位數(shù)與標(biāo)準(zhǔn)規(guī)定的極限數(shù)值書寫位數(shù)一致。 將修約后的數(shù)值與標(biāo)準(zhǔn)規(guī)定極限數(shù)值進(jìn)行比較，以判定實(shí)際指標(biāo)或參數(shù)是否符合標(biāo)準(zhǔn)要求。示例見下表。極限數(shù)值 測(cè)定值