數(shù)值修約及運(yùn)算規(guī)則_第1頁
數(shù)值修約及運(yùn)算規(guī)則_第2頁
數(shù)值修約及運(yùn)算規(guī)則_第3頁
數(shù)值修約及運(yùn)算規(guī)則_第4頁
數(shù)值修約及運(yùn)算規(guī)則_第5頁
已閱讀5頁,還剩16頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡介

《數(shù)值修約及運(yùn)算規(guī)則》主要內(nèi)容一、數(shù)值修約概念 (1)概念; (2)修約規(guī)則; (3)其他規(guī)定; (4)其他修約的間隔;(5)有效數(shù)字概念二、極限數(shù)值的表示和判定(一)概念1.數(shù)值修約:通過省略原數(shù)值的最后若干位數(shù)字,調(diào)整所保留的末位數(shù)字,最后所得到的值最接近原數(shù)值的過程。注:經(jīng)數(shù)值修約后的數(shù)值稱為(原數(shù)值的)修約值。

2.有效數(shù)值:一個(gè)數(shù)從左邊第一個(gè)不是零的數(shù)字?jǐn)?shù)起一直到最后一位數(shù)字(包括零、科學(xué)計(jì)數(shù)法不計(jì)10的N次方)稱為有效數(shù)字。0.0109 3.109×105

0.0230 是三位是三位是四位(一)概念

3.修約間隔:修約的最小數(shù)值單位。注:修約間隔的數(shù)值一經(jīng)確定,修 約值即為該數(shù)值的整數(shù)倍。如:指定的修約間隔為0.1。修約值

應(yīng)在0.1的整數(shù)倍中選取,相當(dāng)于將數(shù)值修約到一位小數(shù)。(一)概念(二)修約規(guī)則1、確定修約間隔(確定有效位數(shù)),

0.0356修約到0.01得

保留一位有效數(shù)字,

2、進(jìn)舍規(guī)則: 1)擬舍棄數(shù)字的最后一位數(shù)字小于5,

則舍去。保留其余各位數(shù)字不變。

12.1498修約到“1”,;修約到

0.1,得

0.040.041212.12)擬舍棄數(shù)字的最后一位數(shù)字大于5.則

進(jìn)一,保留數(shù)字的末位數(shù)加1。

1268修約到“100”位.

13×102也意味著有效數(shù)字為位。 1300意味著有效數(shù)字為位。24(二)修約規(guī)則3)擬舍棄數(shù)字的最左一位數(shù)字是5,且

其后有非零數(shù)字也進(jìn)一,保留數(shù)字

的末位數(shù)字加1.

10.5002.修約到“1”.得11

(二)修約規(guī)則4)擬舍棄數(shù)字的最后一位數(shù)字是5,且其后無數(shù)字或?yàn)?時(shí),若所保留的數(shù)字為 奇數(shù)(1、3、5、7、9),則進(jìn)一。即保留數(shù)字的末位數(shù)字加1.若保留的末位 數(shù)字為偶數(shù)(0、2、4、6、8)則舍去。1.050 修約間隔為“0.1”。10×10-1(或1.0)有效數(shù)字為2位。0.35 修約間隔為“0.1”。4×10-1(或0.4)有效數(shù)字為1位。2500 修約間隔“1000”。2×103(2000)有效數(shù)字1、4位。3500 修約間隔“1000”。4×103(4000)有效數(shù)字1、4位。(二)修約規(guī)則5)口訣四舍五入,逢五看前數(shù),奇入偶不入。6)負(fù)數(shù)修約,先以負(fù)值絕對值按上述修約后,加上負(fù)號。

-15.456絕對值15.456.修約間隔“0.1”、

15.5.加上負(fù)號;-15.5。

(二)修約規(guī)則(三)其他規(guī)定1.不允許連續(xù)修約:擬修的數(shù)字應(yīng)在確定修約間隔或指定修約數(shù)位后一次修約獲得結(jié)果,不得連續(xù)按上述要求修約。正確:97.46修約間隔“1”不允許:97.46→97.5→9897(三)其他規(guī)定2.特殊情況:具體實(shí)施中,有時(shí)測試與計(jì)算部先將獲得數(shù)值按指定的修約數(shù)位多一位或幾位報(bào)出,而后由其他部門判定。為免產(chǎn)生修約的錯(cuò)誤,應(yīng)按下述步驟進(jìn)行:1)報(bào)出數(shù)值最右的非零數(shù)字為5時(shí),應(yīng)在數(shù)值右上角“+”或“-”,或不加符號,分別表明已進(jìn)行過舍,進(jìn)或未進(jìn)。16.50+表示實(shí)際值在修約前大于16.50,經(jīng)修約舍棄后為16.50;原數(shù)值可為:16.501“-”則是小于16.50比如16.499。

(三)其他規(guī)定2)如果修約后的數(shù)字為5“+”者進(jìn)一“-”者舍去

原數(shù)值修約再修15.454615.5-15-15.4546-15.5--1516.520316.5+1717.500017.518(四)其他修約間隔還有以0.5和0.2單位修約的,方法如下:0.5單位修約:被修約的數(shù)乘以2,進(jìn)行間隔修約后再除以2,得到修約值。0.2單位修約:被修約的數(shù)乘以5,進(jìn)行間隔修約后再除以5,得到修約值。

(四)其他修約間隔下列數(shù)值修約得到“個(gè)位”的0.5單位修約被修約數(shù)值X2X2X修約X修約值60.25120.512060.060.38120.7612160.5

(四)其他修約間隔下列數(shù)值修約得到“百位”的0.2單位修約被修約數(shù)值X5X5X修約X修約值83041504200840842421042008408324160420084093046504600920

(五)有效數(shù)字的運(yùn)算

1.加減法運(yùn)算

以參與運(yùn)算的各數(shù)中末位的修約間隔最大的數(shù)為準(zhǔn)。其余的數(shù)均比它保留多一位,多余的應(yīng)按規(guī)定修約。計(jì)算結(jié)果的末位的修約間隔,應(yīng)與參與運(yùn)算的數(shù)中末位的修約間隔最大的那個(gè)數(shù)相同。如果是過程計(jì)算,則可多保留一位:

(五)有效數(shù)字的運(yùn)算

18.3+1.4546+0.87618.3為末位最大數(shù)量級的數(shù),為“0.1”。則以“0.1”增加一位進(jìn)行修約。

18.3+1.45+0.88=20.63修約:

如果還要參加下一步運(yùn)算則取

20.620.63

(五)有效數(shù)字的運(yùn)算

2.乘、除(或乘方、開方)運(yùn)算:

以參與運(yùn)算的各數(shù)中有效數(shù)字位數(shù)最少的那個(gè)數(shù)為準(zhǔn)。其余多保留一位。運(yùn)算結(jié)果的有效數(shù)字位數(shù)應(yīng)與參與運(yùn)算的數(shù)中有效數(shù)字位數(shù)最少的那個(gè)數(shù)相同。若是過程計(jì)算,則可多保留一位。

(五)有效數(shù)字的運(yùn)算

1.1x0.3268x0.103001.1有效位數(shù)最小,

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論