3、有效數(shù)字及運(yùn)算法則_第1頁(yè)
3、有效數(shù)字及運(yùn)算法則_第2頁(yè)
3、有效數(shù)字及運(yùn)算法則_第3頁(yè)
3、有效數(shù)字及運(yùn)算法則_第4頁(yè)
3、有效數(shù)字及運(yùn)算法則_第5頁(yè)
已閱讀5頁(yè),還剩18頁(yè)未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

有效數(shù)字及運(yùn)算法則定義:在測(cè)量結(jié)果的數(shù)字表示中,由若干位可靠數(shù)字加一位可疑數(shù)字,便組成了有效數(shù)字.儀器上顯示的數(shù)字勻?yàn)橛行?shù)字。一、有效數(shù)字的一般概念二、有效數(shù)字位數(shù)的確定1.關(guān)于“0”的有效問(wèn)題①.當(dāng)“0”在數(shù)字中間或末尾時(shí)有效如:、、等中的0均有效。注意:不能在數(shù)字的末尾隨便加“0”或減“0”數(shù)學(xué)上:物理上:1.關(guān)于“0”的有效問(wèn)題②.小數(shù)點(diǎn)前面的“0”和緊接小數(shù)點(diǎn)后面的“0”不算作有效數(shù)字如:0.0123dm、0.123cm、0.00123m均是3位有效數(shù)字。注意:進(jìn)行單位換算時(shí),有效數(shù)字的位數(shù)不變。2.數(shù)值的科學(xué)記數(shù)法數(shù)據(jù)過(guò)大或過(guò)小時(shí),可以用科學(xué)表達(dá)式。某電阻值為20000(歐姆),保留三位有效數(shù)字時(shí)寫(xiě)成2.00104

又如數(shù)據(jù)為0.0000325m,使用科學(xué)記數(shù)法寫(xiě)成3.2510-5m3.有效數(shù)字與儀器的關(guān)系有效數(shù)字的位數(shù)反應(yīng)了測(cè)量值本身的大小、儀器的準(zhǔn)確度

20分度游標(biāo)卡尺L=2.525cm

(四位有效數(shù)字)

螺旋測(cè)微計(jì)L=2.5153cm

(五位有效數(shù)字)米尺L=2.52cm

(三位有效數(shù)字)三、直接測(cè)量有效數(shù)字的確定

——如何讀數(shù)讀數(shù)的一般規(guī)則:讀至儀器誤差所在的位置例:(1)用米尺測(cè)長(zhǎng)度(2)用0.1級(jí)量程為100mA電流表測(cè)電流當(dāng)物體長(zhǎng)度在24㎜與25㎜之間時(shí),讀數(shù)為24.*㎜當(dāng)讀數(shù)正好為24㎜時(shí)讀數(shù)為24.0㎜被測(cè)物體△儀=100mA×0.1%=0.1mA指針在82mA與83mA之間:讀為82.*mA指針正好在82mA上:讀為82.0mA對(duì)于0.1級(jí)表:四、間接測(cè)量量有效數(shù)字的確定

——有效數(shù)字的運(yùn)算法則1.加減法加減法運(yùn)算后的有效數(shù)字,取到參與運(yùn)算各數(shù)中最靠前出現(xiàn)可疑數(shù)的那一位。運(yùn)算規(guī)則:例162.5+1.234=63.762.5+1.234—————63.734結(jié)果為63.7例219.68-5.848=13.83

19.68-5.848—————13.832––––––結(jié)果為13.83––2.乘除法運(yùn)算規(guī)則:乘除運(yùn)算后結(jié)果的有效數(shù)字一般以參與運(yùn)算各數(shù)中有效數(shù)字位數(shù)最少的為準(zhǔn)。例33.21

6.5=21

3.21

6.5—————1605––––––結(jié)果為21––1926—————20.865–––––––例42121.843=0.96____結(jié)果為0.96_如:錯(cuò)誤正確1002=100102

100=10.0

49=7.049=74.02=164.02=16.03.乘方與開(kāi)方運(yùn)算規(guī)則:結(jié)果的有效數(shù)字與其底或被開(kāi)方數(shù)的有效數(shù)字位數(shù)相同。(1)對(duì)數(shù)函數(shù)lgx的尾數(shù)與x的位數(shù)相同例5lg100=2.000

lg1.983=0.297322714

0.2973lg1983=3.29722714

3.29734.函數(shù)運(yùn)算

(2)指數(shù)函數(shù)10x或ex的位數(shù)和x小數(shù)點(diǎn)后的位數(shù)相同(包括緊接小數(shù)點(diǎn)后面的0)例6106.25=1778279.411.8106100.0035=1.00809611.008首先用傳遞公式計(jì)算cosx的不確定度x=20018’

x=1’

0.0003弧度

求cosx的有效數(shù)字(3)三角函數(shù)解:誤差位在小數(shù)點(diǎn)后第四位而cos20o18’=0.937889…...根據(jù)不確定度:cos20o18’=0.9379例7

cosx=|sinx|x=sin(20018’)0.0003=0.0001①自然數(shù)不是測(cè)量值,不存在誤差,故有效數(shù)字是無(wú)窮位。

②常數(shù)

、e等的位數(shù)可與參加運(yùn)算的量中有效數(shù)字位數(shù)最少的位數(shù)相同或多取一位。如在D=2R中,2不是一位有效數(shù)字,而是無(wú)窮位例8L=2R其中R=2.3510-2m

就應(yīng)取3.14(或3.142)即L=23.1422.3510-2=0.148(m)5.自然數(shù)與常量綜合運(yùn)算舉例

50.00(18.3016.3)(1033.0)(1.00+0.001)=50.002.0

1001.00=1.0102

100=1.0

10.02

lg100.0

27.321

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論