數(shù)字運算、修約、極限數(shù)值表示方法講義

1、數(shù)字運算、修約、極限數(shù)值判定與表示方法一、 數(shù)字運算二、 數(shù)值修約規(guī)則三、 極限數(shù)值的表示方法和判定方法一、 數(shù)字運算在檢驗過程中，對檢驗所得的數(shù)據(jù)如何進行計算、整理，如何按照技術標準要求作出判定，是檢驗人員必須掌握的基礎知識。1、有效位數(shù)在檢驗過程中，記錄數(shù)據(jù)和計算結果究竟應該保留幾位數(shù)字？有的檢驗人員認為記錄和計算保留的位數(shù)越多越準確，其實不然。由于檢驗方法、儀器設備和人們感官分析能力的限制，測量中只能讀取一定位數(shù)的數(shù)字。讀取位數(shù)過多，不但不能提高檢驗結果的準確度，反而使計算工作量大大增加，而且還常常容易出錯；讀取位數(shù)過少，則表達不出測量的準確度。為了確切表達測量結果的位數(shù)，我們給出有效位

2、數(shù)的概念。若截取得到的近似數(shù)，其絕對誤差是末位上的半個單位，那么這個近似數(shù)，從第一個不是零的數(shù)字起到這個數(shù)位止，所有數(shù)字均稱為有效數(shù)字。一個進似數(shù)有n個有效數(shù)字，也叫這個進似數(shù)有n個有效位數(shù)。如3.1416、2.1173、180.00，均為五位有效數(shù)；而0.00274、274、27.4，均為三位有效數(shù)。在判斷有效數(shù)字時，要特別注意0這個數(shù)字，它可以是有效數(shù)字，也可以不是有效數(shù)字，例如：0.00274，前面三個0都不是有效數(shù)字，而180.00，后面三個0卻都是有效數(shù)字。因為前者與測量的精確度無關，而后者卻有關。為了說明這個問題，我們不妨各都去掉兩個0，即 0.00274=0.274×1

3、0-2表示其真值為： （0.27350.2745）×10-2其絕對誤差為：0.0005×10-2=0.000005而0.00274的絕對誤差也是0.000005，故去掉前面兩個0后，其絕對誤差不變；而對于180.00，若去掉后面兩個0，成為：180.00=180則其真值所在區(qū)間為：（180.5 179.5）其絕對誤差為0.5；但對于180.00來說，其真值所在區(qū)間應為： （180.005 179.995）其絕對誤差為0.005，顯然，由于去掉右邊兩個0，而使絕對誤差由0.005變成了0.5，這樣就不對了。因此，絕對不可象對待準確數(shù)那樣，隨隨便便去掉小數(shù)部分右邊的0，或在小數(shù)

4、部分右邊加上0，因為這樣做的結果，雖不會改變這個數(shù)的大小，卻改變了這個近似數(shù)的精確度。 對任一數(shù)值，其有效位數(shù)按下述原則確定：對沒有小數(shù)位且以若干個零結尾的數(shù)值，從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無效零（即僅為定位用的零）的個數(shù)；對其他十進位數(shù)，從非零數(shù)字最左一位向右數(shù)而得到的位數(shù)，就是有效位數(shù)。例1：3.2、0.32、0.0032均為兩位有效位數(shù)； 0.320為三數(shù)有效位數(shù)；10.00為四位有效位數(shù)；12.490為五位有效位數(shù)。例2：35000，若有兩個無效零，則為三位有效位數(shù)，應寫為350×102；若有三個無效零，則為兩位有效位數(shù)，應寫為35×103。例3：12.4

5、90為五位有效位數(shù)；10.00為四位有效位數(shù)。2、有效位數(shù)的選擇（1）記錄數(shù)值時有效位數(shù)的選擇讀取或記錄測量數(shù)據(jù)時，一般按儀器最小分度值來讀數(shù)。對于那些需要做進一步運算的數(shù)值，則應在按最小分度值讀取后再估讀一位。讀數(shù)時，小數(shù)末尾的零不能隨意取舍。（2）計算過程中有效位數(shù)的選擇 加減。幾個數(shù)相加或相減時，以小數(shù)部分位數(shù)最少的一數(shù)為準，其余各數(shù)均修約或比該數(shù)多一位，然后運算。例1：求1648.0，13.65，0.0082，1.632，86.82，5.135，316.34，0.545的和。解1648.0+13.65+0.0082+1.632+86.82+5.135+316.34+0.5451648.

6、0+13.65+0.01+1.63+86.82+5.14+316.34+0.54=2071.932071.9 乘除。幾個數(shù)相乘或相除時，以有效位數(shù)最少的一數(shù)為準，其余各數(shù)均修約成比該數(shù)多一位，然后運算。例2：0.0121×1.36872的積解：0.0121×1.368720.0121×1.369=0.01656490.0166乘方或開方。原數(shù)有幾位有效位數(shù)，計算結果就可保留幾位。若還參加運算，則應多保留一位。常數(shù)。對于某些常數(shù)，如、e及某些倍數(shù)或分數(shù)可視為無限有效。計算過程中可根據(jù)需要確定有效位數(shù)。以上都是一些最簡單的，通常所說的“一步運算”的問題，但在實際問題中

7、遇到的計算，并不都這樣簡單，往往在一個式子里會包括幾種不同的運算，即所謂“多步運算”的問題，在多步運算的問題中，中間步驟計算的結果所保留的數(shù)字要比加減、乘除、乘方和開方的數(shù)字計算法則的規(guī)定多出一位。此外，在計算算術平均值時，若四個以上的數(shù)相平均，則平均值的有效位數(shù)可增加一位，這是因為平均值的誤差要比其它任何一個數(shù)的誤差小。二、數(shù)值修約規(guī)則在數(shù)據(jù)處理中，當有效位數(shù)確定后，對有效位數(shù)之后的數(shù)字要進行修約處理。修約按照國家標準GB8/T8170-87數(shù)值修約規(guī)則進行。（一）修約間隔修約間隔是確定修約保留位數(shù)的一種方式。修約間隔的數(shù)值一經(jīng)給出，修約位數(shù)為該數(shù)值的整數(shù)倍。例如：指定修約間隔為0.1，修約

8、值總在0.1的整數(shù)倍中選取，即修約值保留一位小數(shù)。（二）半個單位修約和0.2單位修約1、 0.5單位修約（半個單位修約）指修約間隔為指定數(shù)位的0.5單位，即修約到指定數(shù)位的0.5個單位。具體辦法是：對擬修約值乘以2，按指定數(shù)位依照一般進舍規(guī)則修約，將所得值除以2即得修約值。例如，將下列數(shù)值修約到個數(shù)位的半個單位（或修約間隔為0.5）擬修約值 乘以2 2A修約值 修約值 （A） （2A） （修約間隔:1） （修約間隔:0.5） 60.25 120.50 120 60.060.38 120.76 121 60.5-60.75 -121.50 -122 -61.02、0.2單位修約指修約間隔為指定數(shù)

9、位的0.2單位，即修約到指定數(shù)位的0.2個單位。具體辦法是，對擬修約值乘以5，按指定數(shù)值依照一般進舍規(guī)則修約，將所得值除以5即得修約值。例如：將下列數(shù)值修約到百數(shù)位的0.2單位（或修約間隔為20）擬修約值 乘以5 5A修約值 修約值（A） （2A） （修約間隔:100） （修約間隔:20） 830 4150 4200 840 842 4250 4200 840-930 -4650 -4600 -920（三）進舍規(guī)則進舍規(guī)則可概括為如下口訣：“四舍六入五考慮，五后非零則進一，五后皆零視奇偶，五前為偶應舍去，五前為奇則進一?！?、 擬舍棄數(shù)字的最左一位數(shù)字小于5時，則舍去即保留的各位數(shù)字不變。例1

10、：將12.1498修約到一位小數(shù)，得12.1。例2：將12.1498修約到兩位有效位數(shù)，得12。2、將某一數(shù)值修約為有效位數(shù)N位，當?shù)贜+1位的數(shù)字小于5時，舍去；當?shù)贜+1位的數(shù)字大于5，或者是5且其后并非全部為零時，則進一。例如，下例左邊的數(shù)值修約為三位有效位數(shù)得右邊結果：2.32412.32，2.32632.33，2.325012.333、將某些數(shù)修約為有效位數(shù)N位，當?shù)贜+1位數(shù)字為5，而右邊無數(shù)字或皆為零時，看保留數(shù)字是奇數(shù)還是偶數(shù)。若保留數(shù)字的最末一位為偶數(shù)時（2、4、6、8），舍去；保留數(shù)字的最末一位為奇數(shù)時（1、3、5、7、9），進一。例1：間隔為0.1（或10-1）擬修約數(shù)值

11、 修約值1.050 1.0 0.350 0.4例2：修約間隔為1000（或103）擬修約數(shù)值 修約值2500 2×103 （特定時可寫為2000） 3500 4×103 （特定時可寫為4000） 例3：將下列數(shù)字修約成兩位有效位數(shù) 擬修約數(shù)值 修約值0.0325 0.03232500 32×103 （特定時可寫為32000） （四）負數(shù)修約先將負數(shù)的絕對值按上述方式進行修約，然后在修約值前面加上負號。例1：將下列數(shù)字修約到“十”數(shù)位擬修約數(shù)值 修約值 -355 -36×10 （特定時可寫為-360） -325 -32×10 （特定時可寫為-32

12、0） 例2：將下列數(shù)字修約成兩位有效位數(shù) 擬修約數(shù) 修約值 -365 -36 ×10（特定時可寫為-360） -0.0365 -0.036 （五）不許連續(xù)修約1、擬修約數(shù)值應在確定修約位數(shù)后一次修約獲得結果，而不得多次按上述規(guī)定連續(xù)修約。例1：7.35456要求三位有效位數(shù)時為7.35。不正確的做法：7.3545467.354557.35467.3557.36。例2：修約15.4546，修約間隔為1正確的做法：15.454615不正確的做法：15.454615.45515.4615.5162、在具體實施中，有時測試部門先將獲得數(shù)值按指定的修約位數(shù)多一位或幾位報出，而后由其他部門判定。

13、為避免產(chǎn)生連續(xù)修約的錯誤，要求在報出數(shù)值最右的非零數(shù)字為5時，應在數(shù)值后面加“（+）”或“（-）”或不加號，以分別表明已進行過舍、進或未舍未進。例如：16.50（+）表式實際數(shù)大于16.50，經(jīng)修約舍棄成為16.50；16.50（-）表示實際值小于16.50，經(jīng)修約進一成為16.50。三、極限數(shù)值判定與表示方法（一）書寫極限數(shù)值的一般原則1、 標準中規(guī)定考核的以數(shù)量形式給出的指標或參數(shù)等，應當規(guī)定極限數(shù)值，它表示符合標準要求的數(shù)值范圍的界限。通過給出最小極限值和（或）最大極限值，或給出基本數(shù)值和極限偏差值等方式表達。2、 標準中極限數(shù)值的形式及書寫位數(shù)應該適當。它的有效位數(shù)應全部寫出。書寫位數(shù)

14、表示的精確程度，應能保證產(chǎn)品或其它標準化對象的應有性能和質量，從而它也規(guī)定了為檢驗實際產(chǎn)品或其它標準化對象而得到的測定值或其計算值應具有的相應精確程度。 （二）表達極限數(shù)值的基本用語及其涵義1、 基本用語及其涵義基本用語 符號 特定情形下的基本用語 涵義 大于A A 多于A 高于A A值不符合要求小于A A 少于A 低于A A值不符合要求大于或等于A A 不小于A不少于A 不低于A A值符合要求 小于或等于A A 不大于A 不多于A 不高于A A值符合要求 基本用語也可組合使用，表明極限數(shù)值范圍。 不小于 不大于 例：C（%） 0.12 0.19 Si（%） 0.17 0.37 不多于、不少于

15、、多于、少于等用語宜用于敘述時間、距離指標，以及僅取整數(shù)值的計算指標等場合。如：使用壽命不少于3000h。 不高于、不低于、高于、低于等用語宜用于敘述溫度、高度（以向上作為正方向）指標等場合。如：所用柴油閃點不低于60。 2、 允許的習慣用語及其涵義必要時，允許采用下列用語 “A及以上”，指數(shù)值大于或等于A（A）；“A及以下”，指數(shù)值小于或等于A（A）。 “超過A”，指數(shù)值大于A（A）；“不足A”，指數(shù)值小于A（A）；“至多A”，指數(shù)值小于或等于A（A）；“至少A”，指數(shù)值大于或等于A（A）。3、 帶有極限偏差的數(shù)值及其涵義某基本數(shù)值A帶有絕對極限上偏差值+b1和絕對極限偏差值-b2即A+b1

16、-b2，指從（A- b2）到（A+ b1）符合標準要求。例：80+2-1mm，指從79mm到82mm符合標準要求。某基本數(shù)值A帶有相對極限上偏差值+b1%和相對極限下偏差-b2%，即A+b1-b2%，指實測值或其計算值R對于A的相對偏差值（R-A）/A從-b2%到+b1%符合標準要求。若某個極限偏差值或B已超出標準要求，則應附加括號，寫成“B（不含B）”。例：80+2-1mm（不含2），指從79mm到接近但不足82mm符合標準要求。（三）檢測結果的判定方法根據(jù)GB/T1250-89極限數(shù)值的表示方法和判定方法，在判定檢測數(shù)據(jù)是否符合標準要求時，應將檢驗所得的測定值或其計算值與標準規(guī)定的極限數(shù)值

17、作比較。比較的方法有全數(shù)值比較法和修約值比較法兩種。1、全數(shù)值比較法標準中各種極限數(shù)值（包括帶有極限偏差值的數(shù)值）未加說明時，均指采用全數(shù)值比較法。該方法是：將檢驗所得的測定值或其計算值不經(jīng)修約處理（或按GB/T8170作修約處理，但應表明它是經(jīng)舍、進或未舍未進而得），而用數(shù)值的全部數(shù)字與標準規(guī)定的極限數(shù)值作比較，只要越出規(guī)定的極限數(shù)值（不論越出程度大?。?，都判定為不符合標準要求。示例見下表。極限數(shù)值 測定值或其計算值 修約值 是否符合標準要求56×10 555 56×10(-) 不符 559 56×10(-) 不符 560 56 ×10 符合 565

18、56 ×10(+) 符合 97.0 97.01 97.0(+) 符合 97.00 97.0 符合 96.98 97.0（-） 不符 96.94 96.9（+） 不符 0.300.60 0.299 0.30(-) 不符 0.300 0.30 符合 0.600 0.60 符合 0.601 0.60（+） 不符 0.300.60 0.605 0.60(+) 不符2、修約值比較法凡標準中說采用修約值比較法的，應采用修約值比較法。 將測定值或其計算值按GB/T8170進行修約，修約位數(shù)與標準規(guī)定的極限數(shù)值書寫位數(shù)一致。 將修約后的數(shù)值與標準規(guī)定極限數(shù)值進行比較，以判定實際指標或參數(shù)是否符合標準要求。示例見下表。極限數(shù)值 測定值