計算機原理試驗課件

1、計算機科學(xué)引論浮點數(shù)表示與運算1為什么講浮點數(shù)浮點數(shù)是程序中常用的數(shù)浮點數(shù)是計算機技術(shù)中設(shè)計非常精巧的一個例子浮點數(shù)的一些設(shè)計思想被應(yīng)用到計算機科學(xué)的其它領(lǐng)域2數(shù)的表示計算機是處理“數(shù)”的數(shù)必須表示成計算機認(rèn)識的格式N位整數(shù)的表示無符號：原碼0（2N1）有符號：補碼（2N1）（ 2N11）3數(shù)的表示其它的數(shù)怎么辦？特別大的數(shù)：一個世紀(jì)的秒數(shù)3,155,760,00010 (3.1557610 x 109)非常小的數(shù)：原子的直徑0.0000000110 (1.010 x 10-8) 分?jǐn)?shù)2/3 (0.666666666. . .)無理數(shù)21/2(1.414213562373. . .)，e(2.

2、718.)，(3.141.)都是科學(xué)技術(shù)上常用的數(shù)4數(shù)的表示科學(xué)技術(shù)上數(shù)的表示科學(xué)記數(shù)法+/- 6.020000 x 1023基 小數(shù)點 尾數(shù)階位數(shù)：運算可用精度符號5數(shù)的表示科學(xué)記數(shù)法有一個定長尾數(shù)小數(shù)有一個固定的基10：尾數(shù)的進制有一個階有符號整數(shù)有一個符號+階增減1相當(dāng)于尾數(shù)小數(shù)點右移/左移一位同一個數(shù)有多個表示形式6數(shù)的表示科學(xué)記數(shù)法規(guī)一化要求：1尾數(shù)10規(guī)一化的：1.0 x 10-9未規(guī)一化的：0.1 x 10-8,10.0 x 10-10 規(guī)一化0 . 1 x 10-8 1 0 . 0 x 10-10-1+1進制7數(shù)的表示科學(xué)記數(shù)法歸一化科學(xué)記數(shù)法特點尾數(shù)長度決定了數(shù)的運算可用精度

3、簡稱精度階增減1相當(dāng)于尾數(shù)小數(shù)點右移/左移一位歸一化算法簡單比較大小的算法先比較符號符號相同的再比較階符號和階都相同，再比較尾數(shù)8數(shù)的表示二進制科學(xué)記數(shù)法計算機只能使用二進制所以計算機用二進制科學(xué)記數(shù)法浮點數(shù)+/- 1.02 x 2-1基 “小數(shù)點”尾數(shù)階符號229數(shù)的表示二進制科學(xué)記數(shù)法表示符號+/-：一位二進制數(shù)表示表示階有符號整數(shù)表示基？固定為2：不需要表示表示尾數(shù)二進制小數(shù)：如何表示？10二進制小數(shù)的表示 二進制小數(shù)帶小數(shù)點的二進制數(shù)：101.012二進制小數(shù)的值122+ 021 + 120+02-1 + 12-2-1-1-1=5.2511二進制小數(shù)的表示十進制小數(shù)轉(zhuǎn)換成二進制小數(shù)5.

4、3101.?0.32=0.60.62=1.2010.22=0.400.42=0.801 1 0 0010有限十進制小數(shù)不一定能轉(zhuǎn)換成有限二進制小數(shù)！12二進制小數(shù)的表示表示精度問題計算機不可能表示真正的實數(shù)無理數(shù)21/2(1.414213562373. . .)，e(2.718.)，(3.141.)分?jǐn)?shù)2/3, 5/7, 某些有限十進制數(shù)小數(shù)無法轉(zhuǎn)換成有限二進制小數(shù)0.3實際的科學(xué)計算也不需要真正的實數(shù)解決辦法：量化13量化量化把需要表示的區(qū)間劃分成整數(shù)個格子，要表示的實數(shù)向最近的格子邊界靠-2 -1 0 1 2 -1.75+1.5量化誤差-1.112+1.102二位二進制小數(shù)表示精度0.25

5、用更多位可以實現(xiàn)更高精度碼點14量化量化N位二進制數(shù)：有2N個碼點均勻量化：任意二個相鄰碼點之間的距離相等可以表示的范圍： D2NL例：如需要的精度L10-30，N32 則D4.310-21 可以表示-210-21 210-21 連一個原子的半徑都不能表示15量化實際使用情況例（單位：米）有關(guān)原子半徑的運算需要精確到約10-20需要表示的范圍約10-5有關(guān)丈量土地的運算需要精確到約10-1需要表示的范圍約103有關(guān)地理運算需要精確到約102需要表示的范圍約108如何在一個格式的數(shù)中滿足所有這些要求16量化實際使用情況總結(jié)需要的精度越高時，需要表示的范圍也越小越接近0，需要表示的精度越高解決方案

6、非均勻量化越接近0，量化越密；越遠(yuǎn)離0，量化越粗17量化數(shù)的表示精度與運算可用精度表示精度：量化誤差變化的（非均勻量化）在確定了階的值后，由尾數(shù)位數(shù)確定運算可用精度固定的：由尾數(shù)位數(shù)確定所以尾數(shù)位數(shù)被一般性地叫做“精度”18量化如何實現(xiàn)非均勻量化科學(xué)記數(shù)法無論階的值是多少，尾數(shù)的位數(shù)是固定的尾數(shù)的位數(shù)確定了在相鄰兩個階之間有幾個碼點例：二位十進制科學(xué)記數(shù)法100 101 102 1031.09.9x100100個1.09.9x102100個1.09.9x101100個19浮點數(shù)浮點數(shù)：二進制科學(xué)記數(shù)法規(guī)一化要求：1尾數(shù)21038）（上）溢出如果結(jié)果太?。浚?v， 5.0/0可以給出正確的答案，

7、而不一定產(chǎn)生溢出sqrt(-5.0)? 0.0/0.0?既然5.0/0可以有正確的結(jié)果，這里也應(yīng)該有NaN：Not a Number階全1，尾數(shù)036浮點數(shù)：IEEE75432位浮點數(shù)小結(jié)階尾數(shù)值00+/-00非0？1-254任意+/-浮點數(shù)2550+/- 255非0NaN37浮點數(shù)：IEEE754現(xiàn)有格式存在的問題可表示的最小正數(shù)a = 1.0 2 * 2-126 = 2-126可表示的第二小正數(shù)b = 1.0001 2 * 2-126 = 2-126 + 2-149a - 0 = 2-126 b - a = 2-149ba0+-38浮點數(shù)：IEEE754解決辦法階0，尾數(shù)0還未使用定義此時

8、的有效值為：+/-0.xxxxxxxx22-126此時最小正數(shù)：0.0.0122-126= 2-149第二小正數(shù)： 0.0.1022-126= 2-1480+-39浮點數(shù)：IEEE754舍入為何需要舍入實數(shù)的運算結(jié)果：無限精度不可能被計算機表示計算機的浮點數(shù)是運算結(jié)果的近似值必須把運算結(jié)果映射到浮點數(shù)可以表示的某個碼點上此操作稱為“舍入”實數(shù)到整數(shù)的變換（取整運算）要映射到整數(shù)可以表示的某個碼點上舍入40舍入（ round ）方法恒舍（round down，round towards -inf）1.999 - 1, -1.999 - -2恒入（round up，round towards +inf）1.999 - 2, -1.999 - -1截斷（truncate，round to