數(shù)值修約及運算規(guī)則_第1頁
數(shù)值修約及運算規(guī)則_第2頁
數(shù)值修約及運算規(guī)則_第3頁
數(shù)值修約及運算規(guī)則_第4頁
數(shù)值修約及運算規(guī)則_第5頁
已閱讀5頁,還剩16頁未讀 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

1、數(shù)值修約及運算規(guī)則主要內(nèi)容一、數(shù)值修約概念(1)概念;(2)修約規(guī)則;(3)其他規(guī)定;(4)其他修約的間隔;(5)有效數(shù)字概念二、極限數(shù)值的表示和判定(一)概念1.數(shù)值修約:通過省略原數(shù)值的最后若干位數(shù)字,調(diào)整所保留的末位數(shù)字,最后所得到的值最接近原數(shù)值的過程。注:經(jīng)數(shù)值修約后的數(shù)值稱為(原數(shù)值的)修約值。 2.有效數(shù)值:一個數(shù)從左邊第一個不是零的數(shù)字數(shù)起一直到最后一位數(shù)字(包括零、科學(xué)計數(shù)法不計10的N次方)稱為有效數(shù)字。0.01093.1091050.0230是三位是三位是四位(一)概念(一)概念 3.修約間隔:修約的最小數(shù)值單位。 注:修約間隔的數(shù)值一經(jīng)確定,修 約值即為該數(shù)值的整數(shù)倍。

2、 如:指定的修約間隔為0.1。修約值 應(yīng)在0.1的整數(shù)倍中選取,相當(dāng) 于將數(shù)值修約到一位小數(shù)。(一)概念(一)概念 (二)修約規(guī)則 1、確定修約間隔(確定有效位數(shù)), 0.0356修約到0.01得 保留一位有效數(shù)字, 2、進舍規(guī)則: 1)擬舍棄數(shù)字的最后一位數(shù)字小于5, 則舍去。保留其余各位數(shù)字不變。 12.1498修約到“1”, ;修約到 0.1,得0.040.041212.1 2)擬舍棄數(shù)字的最后一位數(shù)字大于5.則 進一,保留數(shù)字的末位數(shù)加1。 1268修約到“ 100 ”位. 13102也意味著有效數(shù)字為 位。 1300意味著有效數(shù)字為 位。24 (二)修約規(guī)則 3)擬舍棄數(shù)字的最左一位

3、數(shù)字是5,且 其后有非零數(shù)字也進一,保留數(shù)字 的末位數(shù)字加1. 10.5002.修約到“1”. 得 11 (二)修約規(guī)則4)擬舍棄數(shù)字的最后一位數(shù)字是5,且其后無數(shù)字或為0時,若所保留的數(shù)字為奇數(shù)(1、3、5、7、9),則進一。即保留數(shù)字的末位數(shù)字加1.若保留的末位數(shù)字為偶數(shù)(0、2、4、6、8)則舍去。1.050修約間隔為“0.1”。1010-1(或1.0)有效數(shù)字為2位。0.35修約間隔為“0.1”。 410-1(或0.4)有效數(shù)字為1位。2500修約間隔“1000”。 2103(2000)有效數(shù)字1、4位。3500修約間隔“1000”。 4103(4000)有效數(shù)字1、4位。 (二)修約

4、規(guī)則5)口訣四舍五入,逢五看前數(shù),奇入偶不入。6)負數(shù)修約,先以負值絕對值按上述修約后,加上負號。 -15.456 絕對值15.456.修約間隔“0.1”、 15.5.加上負號;-15.5。 (二)修約規(guī)則 (三)其他規(guī)定1.不允許連續(xù)修約:擬修的數(shù)字應(yīng)在確定修約間隔或指定修約數(shù)位后一次修約獲得結(jié)果,不得連續(xù)按上述要求修約。 正確:97.46 修約間隔“1” 不允許:97.46 97.5 9897 (三)其他規(guī)定2.特殊情況:具體實施中,有時測試與計算部先將獲得數(shù)值按指定的修約數(shù)位多一位或幾位報出,而后由其他部門判定。為免產(chǎn)生修約的錯誤,應(yīng)按下述步驟進行:1)報出數(shù)值最右的非零數(shù)字為5時,應(yīng)在

5、數(shù)值右上角“+”或“-”,或不加符號,分別表明已進行過舍,進或未進。 16.50+表示實際值在修約前大于16.50,經(jīng)修約舍棄后為16.50; 原數(shù)值可為:16.501 “-”則是小于16.50 比如16.499。 (三)其他規(guī)定2)如果修約后的數(shù)字為5“+”者進一“-”者舍去 原數(shù)值原數(shù)值修約修約再修再修15.454615.5- 15-15.4546-15.5-1516.520316.5+1717.500017.518 (四)其他修約間隔還有以0.5和0.2單位修約的,方法如下:0.50.5單位修約:單位修約:被修約的數(shù)乘以2,進行間隔修約后再除以2,得到修約值。0.20.2單位修約:單位修

6、約:被修約的數(shù)乘以5,進行間隔修約后再除以5,得到修約值。 (四)其他修約間隔下列數(shù)值修約得到“個位”的0.5單位修約被修約數(shù)值被修約數(shù)值X2X2X修約修約X修約值修約值60.25120.512060.060.38120.7612160.5 (四)其他修約間隔下列數(shù)值修約得到“百位”的0.2單位修約被修約數(shù)值被修約數(shù)值X5X5X修約修約X修約值修約值83041504200840842421042008408324160420084093046504600920 (五)有效數(shù)字的運算 1. 加減法運算 以參與運算的各數(shù)中末位的修約間隔最大的數(shù)為準(zhǔn)。其余的數(shù)均比它保留多一位,多余的應(yīng)按規(guī)定修約。計

7、算結(jié)果的末位的修約間隔,應(yīng)與參與運算的數(shù)中末位的修約間隔最大的那個數(shù)相同。如果是過程計算,則可多保留一位: (五)有效數(shù)字的運算 18.3+1.4546+0.876 18.3為末位最大數(shù)量級的數(shù),為“0.1”。 則以“0.1”增加一位進行修約。 18.3+1.45+0.88=20.63 修約: 如果還要參加下一步運算則取 20.620.63 (五)有效數(shù)字的運算 2. 乘、除(或乘方、開方)運算: 以參與運算的各數(shù)中有效數(shù)字位數(shù)最少的那個數(shù)為準(zhǔn)。其余多保留一位。運算結(jié)果的有效數(shù)字位數(shù)應(yīng)與參與運算的數(shù)中有效數(shù)字位數(shù)最少的那個數(shù)相同。若是過程計算,則可多保留一位。 (五)有效數(shù)字的運算 1.1x0.3268

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論