測量數(shù)據(jù)的處理

測量數(shù)據(jù)的處理一、數(shù)據(jù)舍入規(guī)章

1．有效數(shù)字

由于含有誤差，所以測量數(shù)據(jù)及由測量數(shù)據(jù)計(jì)算出來的算術(shù)平均值等都是近似值。

（1）若末位數(shù)字是個(gè)位，則包含的肯定誤差值不大于0.5；

（2）若末位是十位，則包含的肯定誤差值不大于5；

（3）對于其肯定誤差不大于末位數(shù)字一半的數(shù)，從它左邊第一個(gè)不為零的數(shù)字起，到右面最終一個(gè)數(shù)字(包括零)止，都叫做有效數(shù)字。中間的0和末尾的0都是有效數(shù)字，不能隨便添加。開頭的零不是有效數(shù)字。

測量數(shù)據(jù)的肯定值比較大（或比較小），而有效數(shù)字又比較少的測量數(shù)據(jù)，應(yīng)采納科學(xué)計(jì)數(shù)法，即a×10n，a的位數(shù)由有效數(shù)字的位數(shù)所打算。

例1用10v指針式電壓表測得U=5.64V三位有效數(shù)字，如圖1：

圖1有效數(shù)字示意圖

最末位有效數(shù)字常稱存疑數(shù)，它主要由儀表所能達(dá)到的精度打算。例如用10V量程指針式電壓表測得電壓5.64V，這是三位有效數(shù)字組成的數(shù)據(jù)，這三位數(shù)中前二位是可從刻度上精確?????讀出的，而最終一位是估讀的，是含有誤差的近似數(shù)，常稱為存疑數(shù)。

例20.0038KΩ=3.8Ω，兩位有效數(shù)字；

例30.026m兩位有效數(shù)字，

0.0260m三位有效數(shù)字；

例48700四位有效數(shù)字，

87×102兩位有效數(shù)字；

2.多余數(shù)字的舍入規(guī)章

由于測量數(shù)據(jù)和測量結(jié)果均是近似數(shù)，其位數(shù)各不相同。為了使測量結(jié)果的表示精確?????唯一，計(jì)算簡便，在數(shù)據(jù)處理時(shí)，需對測量數(shù)據(jù)和所用常數(shù)進(jìn)行修約處理。

數(shù)據(jù)修約規(guī)章：

（1）小于5舍去——末位不變。

（2）大于5進(jìn)1——在末位增1。

（3）等于5時(shí)，取偶數(shù)——當(dāng)末位是偶數(shù)，末位不變；末位是奇數(shù)，在末位增1（將末位湊為偶數(shù)）

例5：將下列數(shù)字保留到小數(shù)點(diǎn)后一位：l2.34，l2.36，l2.35，l2.45。

解：12.34→l2.3(45，舍去)

12.36→l2.4(65，進(jìn)一)

l2.35→l2.4(3是奇數(shù)，5入)

12.45→12.4(4是偶數(shù)，5舍)

例6：將下列數(shù)據(jù)舍入到小數(shù)其次位。

12.4344→12.4363.73501→63.74

0.69499→0.6925.3250→25.3217.6955→17.70123.1150→123.12

需要留意的是，舍入應(yīng)一次到位，不能逐位舍入。二、等精密度測量結(jié)果的處理步驟

①用修正值等方法，減小恒值系統(tǒng)誤差的影響,列出測量數(shù)據(jù)x1，x2，x3，……，xn。

②求算術(shù)平均值,;

③求剩余誤差（殘差）vi=xi–，并驗(yàn)證。

④用貝塞爾公式計(jì)算標(biāo)準(zhǔn)偏差估量值：;

⑤利用萊特準(zhǔn)則，即3σ準(zhǔn)則，判別是否存在粗差。

⑥剔除壞值后，再重復(fù)求剩下數(shù)據(jù)的算術(shù)平均值、剩余誤差及標(biāo)準(zhǔn)差，并再次推斷，直至不包括壞值為止。

⑦推斷有無變值系統(tǒng)誤差。

⑧求算術(shù)平均值的標(biāo)準(zhǔn)差估量值

⑨求算術(shù)平均值的不確定度

⑩給出測量結(jié)果的表達(dá)式（報(bào)告值）。

例7：對某電壓進(jìn)行了16次等精密度測量，測量數(shù)據(jù)中已計(jì)入修正值，列于表1–1要求給出包括誤差（即不確定度）在內(nèi)的測量結(jié)果表達(dá)式。

表1–1測量值及其計(jì)算值n

xi/V

首次計(jì)算

其次次計(jì)算

vi

vi2

vi′

(vi′)2

備注

1

205.24

－0.06

0.0036

＋0.03

0.0009

2

205.21

－0.09

0.0081

0.00

0.0000

3

205.35

＋0.05

0.0025

＋0.14

0.0196

4

204.94

－0.36

0.1296

－0.27

0.0729

5

205.32

＋0.02

0.0004

＋0.11

0.0121

6

204.97

－0.33

0.1089

－0.24

0.0576

7

205.71

＋0.41

0.1681

＋0.50

0.2500

8

205.63

＋0.33

0.1089

＋0.42

0.1764

9

204.70

－0.60

0.3600

－0.51

0.2601

10

205.30

＋0.00

0.0000

＋0.09

0.0081

11

205.36

＋0.06

0.0036

＋0.15

0.0225

12

205.21

－0.09

0.0081

0.00

0.0000

13

204.86

－0.44

0.1936

－0.35

0.1225

14

206.65

＋1.35

1.8225

x13為壞值

15

205.19

－0.11

0.0121

－0.02

0.0004

16

205.16

－0.14

0.0196

－0.05

0.0025

計(jì)算值

解：①求出算術(shù)平均值：；

②計(jì)算殘差vi列于表中，并驗(yàn)證；

③計(jì)算標(biāo)準(zhǔn)差(估量值)：

④利用萊特準(zhǔn)則判別是否存在粗差。查表中第14個(gè)數(shù)據(jù)的殘差v14=1.353=1.33，應(yīng)將此對應(yīng)的x14=206.65視為壞值加以剔除，現(xiàn)剩下15個(gè)數(shù)據(jù)；

⑤重新計(jì)算剩余15個(gè)數(shù)據(jù)的平均值：；

⑥重新計(jì)算殘差vi′，列于表中，并驗(yàn)證；

⑦重新計(jì)算標(biāo)準(zhǔn)差(估量值)：

⑧再利用萊特準(zhǔn)則判別是否存在粗差?，F(xiàn)各殘差vi′3=0.804，則認(rèn)為剩余數(shù)據(jù)中不再含有壞值，并且n=1510；

⑨對vi′作圖，