《測量誤差與數(shù)據(jù)處理》課件-有效數(shù)字與數(shù)據(jù)運算_第1頁
《測量誤差與數(shù)據(jù)處理》課件-有效數(shù)字與數(shù)據(jù)運算_第2頁
《測量誤差與數(shù)據(jù)處理》課件-有效數(shù)字與數(shù)據(jù)運算_第3頁
《測量誤差與數(shù)據(jù)處理》課件-有效數(shù)字與數(shù)據(jù)運算_第4頁
《測量誤差與數(shù)據(jù)處理》課件-有效數(shù)字與數(shù)據(jù)運算_第5頁
已閱讀5頁,還剩17頁未讀 繼續(xù)免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

《測量誤差與數(shù)據(jù)處理》有效數(shù)字與數(shù)據(jù)運算什么是有效數(shù)字呢?數(shù)據(jù)計算中又該如何處理有效數(shù)字呢?有效數(shù)字的概念01CONTENTS目錄數(shù)字舍入規(guī)則02數(shù)字運算規(guī)則03有效數(shù)字的概念PART01一、有效數(shù)字的概念含有誤差的任何數(shù),從這個近似數(shù)左方起的第一個非零的數(shù)字,稱為第一位有效數(shù)字。從第一位有效數(shù)字起到最末一位數(shù)字止的所有數(shù)字,不管是零或非零的數(shù)字,都叫有效數(shù)字。有效數(shù)字:具體地說,是指在分析工作中實際能夠測量到的數(shù)字。所謂能夠測量到的是包括可靠位數(shù)的全部數(shù)字加上最后一位估計的,不確定的數(shù)字。一、有效數(shù)字的概念

若具有n個有效數(shù)字,就說是n位有效位數(shù)。例如取π=3.14,第一位有效數(shù)字為3,共有3位有效位數(shù);又如0.0027,第一位有效數(shù)字為2,共有兩位有效位數(shù);而0.00270,則為3位有效位數(shù)。一、有效數(shù)字的概念若近似數(shù)的右邊帶有若干個零的數(shù)字,通常把這個近似數(shù)寫成a×10n形式,而1≤

a

<10。利用這種寫法,可從a含有幾個有效數(shù)字來確定近似數(shù)的有效位數(shù)。如2.400×103表示4位有效位數(shù);

2.40×103和2.4×103

,分別表示3位和兩位有效位數(shù)。一、有效數(shù)字的概念

在測量結果中,最末一位有效數(shù)字取到哪一位,是由測量度來決定的,即最末一位有效數(shù)字應與測量精度是同一量級的。例如用千分尺測量時,其測量精度只能達到0.01mm,若測出長度

l

=20.531mm,顯然小數(shù)點后第二位數(shù)字已不可靠,而第三位數(shù)字更不可靠,此時只應保留小數(shù)點后第二位數(shù)字,即寫成

l

=20.53mm,為4位有效位數(shù)。由此可知,測量結果應保留的位數(shù)原則是:其最末一位數(shù)字是不可靠的,而倒數(shù)第二位數(shù)字應是可靠的。測量誤差一般取1~2位有效數(shù)字,因此上述用千分尺測量結果可表示為l=(20.53±0.01)

mm

。一、有效數(shù)字的概念在進行比較重要的測量時,測量結果和測量誤差可比上述原則再多取一位數(shù)字作為參考,如測量結果可表示為15.214±0.042。因此,凡遇有這種形式表示的測量結果,其可靠數(shù)字為倒數(shù)第三位數(shù)字,不可靠數(shù)字為倒數(shù)第二位數(shù)字,而最后一位數(shù)字則為參考數(shù)字。一、有效數(shù)字的概念在數(shù)據(jù)處理和計算中,我們需要遵循一些基本的規(guī)則來正確運用有效數(shù)字。這些規(guī)則包括:非零數(shù)字都是有效數(shù)字。例如,數(shù)值123.45中的1、2、3、4和5都是有效數(shù)字。規(guī)則一零的左邊第一個非零數(shù)字及其右邊的所有數(shù)字都是有效數(shù)字。例如,數(shù)值0.00345中的3、4和5都是有效數(shù)字。規(guī)則二

科學計數(shù)法中的指數(shù)部分不參與有效數(shù)字的計算。例如,數(shù)值1.23×104中有3個有效數(shù)字,分別是1、2和3。規(guī)則三數(shù)字舍入規(guī)則PART02二、數(shù)字舍入規(guī)則“四舍六入五留雙”規(guī)則“四舍”是指舍去部分<5時,該數(shù)字舍去;“六入”是指舍去部分>5時,則進位;“五留雙”指的是舍去部分=5時,根據(jù)5前面的數(shù)字來定:①5前為奇數(shù),舍5入1;②5前為偶數(shù),舍5不進。奇留偶不留當舍入足夠多時,舍和入的概率相同,從而舍入誤差基本抵消,又考慮到末位是偶數(shù)容易被除盡,減小計算誤差。二、數(shù)字舍入規(guī)則將下列數(shù)字保留三位有效數(shù)字:【例】9.8249→9.829.82671→9.839.8350→9.849.8250→9.829.82501→9.83數(shù)字運算規(guī)則PART03三、數(shù)字運算規(guī)則在近似數(shù)運算時,為了保證最后結果有盡可能高的精度,所有殘余運算的數(shù)字,在有效數(shù)字后可多保留一位數(shù)字作為參考數(shù)字(或稱為安全數(shù)字)。1.三、數(shù)字運算規(guī)則在近似數(shù)做加減運算時,各運算數(shù)據(jù)以小數(shù)位數(shù)最少的數(shù)據(jù)位數(shù)為準,其余各數(shù)據(jù)可多取一位小數(shù),但最后結果應與小數(shù)位數(shù)最少的數(shù)據(jù)小數(shù)位相同。2.【例】2643.0+987.7+4.187+0.2354≈2643.0+987.7+4.19+0.24=3635.13≈3635.1三、數(shù)字運算規(guī)則在近似數(shù)乘除運算時,各運算數(shù)據(jù)以有效位數(shù)最少的數(shù)據(jù)位數(shù)為準,其余各數(shù)據(jù)可多取一位有效數(shù),但最后結果應與有效位數(shù)最少的數(shù)據(jù)位數(shù)相同。3.【例】15.134×4.12≈15.13×4.12=62.3356≈62.3三、數(shù)字運算規(guī)則在近似數(shù)平方或開方運算時,近似數(shù)的選取與乘除運算相同。4.

使用計算器進行計算時,一般不對每一步驟的結果進行舍入,僅對最后的結果進行舍入,使其符合事先所確定的位數(shù)。三、數(shù)字運算規(guī)則科學計數(shù)法有效數(shù)字的運算規(guī)則。5.

假設我們需要計算數(shù)值1.23×104和數(shù)值4.56×102的和。

首先,我們將兩個數(shù)值轉換為相同的數(shù)字形式:

1.23×104=12300,4.56×102=456。

然后,我們進行加法運算:12300+456=12756。根據(jù)有效數(shù)字的規(guī)則

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論