中山大學(xué)計(jì)算機(jī)體系結(jié)構(gòu)復(fù)習(xí)筆記

1、Ch 1?摩爾定律 (芯片技術(shù)) 當(dāng)價(jià)格不變時(shí)， 集成電路上可容納的元器件的數(shù)目， 約每隔 18-24個(gè)月便會(huì)增加一倍，性能也將提升一倍。安德厚定律計(jì)算機(jī)分類的依據(jù)：? 現(xiàn)代計(jì)算機(jī)應(yīng)用新的分類： 個(gè)人移動(dòng)設(shè)備( Personal Mobile Device (PMD) ：智能手機(jī)、平板電腦等，強(qiáng)調(diào)高效和實(shí) 時(shí)性；桌面計(jì)算 (Desktop Computing) ： PC 業(yè)務(wù)，強(qiáng)調(diào)性價(jià)比 (price performance) ； 服務(wù)器：強(qiáng)調(diào)可用性( availability )、規(guī)?；?/可擴(kuò)展性( scalability )、吞吐率；倉庫級(jí)計(jì)算機(jī)(Clusters / Warehouse

2、 Scale Computers(WSA):用于軟件及服務(wù)(SaaS)服 務(wù)，強(qiáng)調(diào)性價(jià)比和可用性。嵌入式計(jì)算(Embedded Computers):強(qiáng)調(diào)價(jià)格。? 應(yīng)用程序中的兩種并行 數(shù)據(jù)級(jí)并行( Data-Level Parallelism (DLP) ):可以同時(shí)操作許多數(shù)據(jù)項(xiàng) 任務(wù)級(jí)并行 ( Task-Level Parallelism (TLP) ):創(chuàng)建一些能夠單獨(dú)處理但大量采用并行方 式執(zhí)行的工作任務(wù)。? Classes of architectural parallelism / 計(jì)算機(jī)硬件實(shí)現(xiàn) DLP 和 TLP 兩種并行的 4 種方式 指令級(jí)并行( Instruction-

3、Level Parallelism (ILP) ):流水線 向量體系結(jié)構(gòu)和圖形處理器( Vector architectures/Graphic Processor Units (GPUs) ):將 單條指令并行應(yīng)用于一個(gè)數(shù)據(jù)集，以開發(fā)數(shù)據(jù)級(jí)并行。線程級(jí)并行( Thread-Level Parallelism ) 請(qǐng)求級(jí)并行( Request-Level Parallelism )?Flynn 's Taxonomy (弗林分類法)SISD 標(biāo)準(zhǔn)的順序計(jì)算機(jī)，可以利用指令級(jí)并行SIMD 開發(fā)數(shù)據(jù)級(jí)并行MISD 沒有這種類型的商用多處理器，但是包含這種類型后，分類變得完整MIMD 開發(fā)線

4、程級(jí)并行? 計(jì)算機(jī)體系結(jié)構(gòu) 經(jīng)典:機(jī)器語言程序員所看到的傳統(tǒng)機(jī)器級(jí)所具有的屬性，即概念性結(jié)構(gòu)與功能特性。 計(jì)算機(jī)組成:計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)的邏輯實(shí)現(xiàn) 一種體系結(jié)構(gòu)可以有多種組成。 e.g. X86一種組成可以有多種物理實(shí)現(xiàn) 現(xiàn)代計(jì)算機(jī)體系結(jié)構(gòu)則包括組成與實(shí)現(xiàn)，即計(jì)算機(jī)系統(tǒng)的層次結(jié)構(gòu)。ISA (指令集體系結(jié)構(gòu))ARM && MIPS80 x 86ISA分類載入-存儲(chǔ)ISA奇存器-存儲(chǔ)器ISA存儲(chǔ)器尋址必須對(duì)齊不需要對(duì)齊尋址模式MIPS:寄存器尋址、立即數(shù)尋址、位 移量尋址ARM:.+程序計(jì)數(shù)器尋址、兩個(gè)寄存 器之和 +位移量的 3種變化形式 （寄存器間接尋址、基址尋址、變址尋址）操作數(shù)

5、的類型 和大小8、16、32、64、IEEE 754 浮點(diǎn)數(shù)還支持80位浮點(diǎn)數(shù)操作指令簡單、易于實(shí)現(xiàn)流水化豐富、大控制流指令MIPS條件分支檢測寄存器中的內(nèi) 容；ARM和MIPS將返回地址放在寄存 器中和ARM分支測試條件代碼 位；將返回地址放在存儲(chǔ)器的一 個(gè)棧中ISA的編碼定長 32位變長1-18字節(jié)趨勢技術(shù)趨勢（5）集成電路邏輯技術(shù)；半導(dǎo)體DRAM ；半導(dǎo)體閃存； 磁盤技術(shù)； 網(wǎng)絡(luò)技術(shù)性能趨勢帶寬優(yōu)于時(shí)延集成電路中的功率和能耗趨勢在時(shí)鐘頻率和電源電壓保持不變的情況下， 提高能耗效率成本趨勢構(gòu)建成本：技術(shù)改進(jìn)運(yùn)行成本：需要高效利用能源來降低? 虛擬機(jī)：由軟件實(shí)現(xiàn)的機(jī)器? 系列機(jī)：由同一廠家生

6、產(chǎn)的具有相同的系統(tǒng)結(jié)構(gòu)，但具有不同的組成和實(shí)現(xiàn)的一系列不同型號(hào)的機(jī)器。? WSC和服務(wù)器：相同：非?？粗乜捎眯訵SC以很多廉價(jià)組件作為構(gòu)建模塊，依靠軟件層來捕獲和隔離在這一級(jí)別進(jìn)行計(jì)算時(shí) 發(fā)生的許多故障。WSC的可擴(kuò)展性通過連接這些計(jì)算機(jī)的局域網(wǎng)實(shí)現(xiàn)，而服務(wù)器則是通過 集成計(jì)算機(jī)硬件來實(shí)現(xiàn)。? WSA和超級(jí)計(jì)算機(jī)：相同：非常昂貴超級(jí)計(jì)算機(jī)強(qiáng)調(diào)浮點(diǎn)性能，常用于運(yùn)行大型的、通信密集的批程序，這些程序可能一WSC次運(yùn)行幾個(gè)星期。這種緊密耦合性決定了超級(jí)計(jì)算機(jī)要使用非?？焖俚膬?nèi)部網(wǎng)絡(luò)；而 則更重視互動(dòng)應(yīng)用程序、大規(guī)模存儲(chǔ)、可靠性和很高的因特網(wǎng)帶寬。?Prin ciples of Computer De

7、sig n 充分利用并行 局部性原理（時(shí)間局部性、控件局部性） 以經(jīng)常性事件為重點(diǎn) Amdahl定律加快某部件執(zhí)行速度所能獲得的系統(tǒng)性能加速比，受限于該部件的執(zhí)行時(shí)間占系統(tǒng)中總執(zhí)行時(shí)間的百分比。加速比依賴于兩個(gè)因素：可改進(jìn)比例和部件加速比擁速比-總執(zhí)行時(shí)間鮭禍 總執(zhí)行肘問矗（1 可改進(jìn)比例）可改進(jìn)比例 部件加速比 CPU性能公式CPU時(shí)間=指令數(shù)x CPI x時(shí)鐘周期數(shù)MTTF :平均無故障時(shí)間MTTR :平均修復(fù)時(shí)間MTBF :平均故障間隔時(shí)間MTBF = MTTF + MTTRCh 2?存儲(chǔ)器層次結(jié)構(gòu)服務(wù)器：CPU （寄存器L1緩存t L2緩存t L3緩存t存儲(chǔ)器t 磁盤存儲(chǔ)PMD : C

8、PU （寄存器）t L1緩存 t L2緩存t存儲(chǔ)器t 磁盤存儲(chǔ)? 從用戶的角度來看，存儲(chǔ)器的三個(gè)主要指標(biāo)：容量、速度和價(jià)格（指每位價(jià)格）? 從主存的角度來看：“ Cache-主存”層次：彌補(bǔ)主存速度的不足"主存-輔存”層次：彌補(bǔ)主存容量的不足? 全相聯(lián)：主存中的任一塊可以被放置到Cache中的任意一個(gè)位置。直接映象：主存中的每一塊只能被放置到Cache中唯一的一個(gè)位置。組相聯(lián)：主存中的每一塊可以被放置到Cache中唯一的一個(gè)組中的任何一個(gè)位置。出較頊冃“CMhu主存富歡“主存-稱1產(chǎn)層咬B的帥了滋補(bǔ)主右速區(qū)的不址為了勞補(bǔ)土存容量的不足花偌理Oil圭豐血右用帳杵丈現(xiàn)主更由軟件賞JW訥問

9、評(píng)縻的出荷 肆一級(jí)和第二兒比一幾百比-ftm墩頁試小兒幾白到幾千個(gè)字卩廠pi對(duì)栩二級(jí)的 彷|肪式m自接也間均通逋第7去效時(shí)CPU是由目牆不削按切企到具怛訕獰1 寫“操柞必須在確認(rèn)是命中后才可進(jìn)行2. 兮'訪問右可能導(dǎo)致Ghe和主存內(nèi)容的不一致3. 兩種寫策略巧策曙是區(qū)分不同C眈庇設(shè)計(jì)方案的一個(gè)重些標(biāo)志'寫首達(dá)法執(zhí)廳“耳*揀柞吋，不僅呵入cwtht而下 級(jí)占錯(cuò)器°寫回法也稱為拷回法）tttr .寫”操年時(shí)，只寫入血辰僅O.ebe中相應(yīng) 的塊鐵替換時(shí)，才號(hào)回主存.（諭習(xí)我慘改飩"乎均訪存時(shí)間金式町以分為指令訪同和數(shù)據(jù)訪問兩部分；平均訪存時(shí)囘=指令所占的百分比兀f

10、抬令命申時(shí)間+指令失效樸失效開箱）+數(shù)據(jù)所占的口分比X f數(shù)據(jù)命中時(shí)間+數(shù)擴(kuò)央效率X央效開銷1.程序執(zhí)行M間CHJmW= （CPU眞存局期敖+存儲(chǔ)番停領(lǐng)尉期StX時(shí)鐘周期時(shí)間 其申£ 存儲(chǔ)器嶺頓時(shí)鐘周期費(fèi)=的衣數(shù)X讀失效車況途失 效開禺+ 計(jì)的氏數(shù)X寫先效率X巧失效開銷存箱器陣碩時(shí)神周期敘=訪存抉數(shù)X火效事其失效瑋網(wǎng)龍失效率工夬栽幵銷卜時(shí)輕周揺時(shí)間每條指令的平均失磁數(shù)=親畑數(shù)_童佯垃數(shù)-失注指專數(shù)- 脂專數(shù)?我們用一亍和A"血AXP類似的機(jī)器菲沖第一亍例子. 假設(shè)GmM失效開銷為陸個(gè)時(shí)鐘槪期，當(dāng)不為血療儲(chǔ)笈停換時(shí)，所 有扭令的執(zhí)廳時(shí)間都是:個(gè)時(shí)鐘周期*訪問"Mil

11、失敢率為沙， 平均每條揩警訪存1一也次，試分析Gwhe對(duì)性能的鶯響.解cru時(shí)何=/cx gj t存儲(chǔ)卑數(shù)X時(shí)鐘周期時(shí)間考慮亦展的失效后，性能為=（TE時(shí)間壬4=TCX（3.0 I L33X2 1&X50） X時(shí)鐘周期時(shí)同 -ICX3.歸X時(shí)鐘周朋時(shí)間實(shí)際仔7 3. 333. 33/2.0 -兒 67（&）CH：時(shí)何也増加為驚索的1 一苛倍*但若不采fflCachc,則£CPI2. Q+&0X1, 3368. 5Cache對(duì)于低CPI、高時(shí)鐘頻率的 CPU來說更加重要。 優(yōu)化緩存性能的16種方法增大塊降低失效率增大緩存提高相聯(lián)程度采用多級(jí)緩存讓讀失效優(yōu)先于與在

12、緩存索引期間避免地址轉(zhuǎn)換縮短命中時(shí)間容量小、結(jié)構(gòu)簡單的 cache縮短命中時(shí)間路預(yù)測實(shí)現(xiàn)緩存訪問的流水化增加緩存帶寬采用無阻塞緩存采用多種緩存合并寫緩沖區(qū)降低缺失代價(jià)編譯器優(yōu)化（循環(huán)交換、分塊）降低缺失率對(duì)指令和數(shù)據(jù)進(jìn)行硬件預(yù)取降低缺失代價(jià)或缺失率用編譯器控制預(yù)取5. 3. 4 Victim Cache1- 一種能減少?zèng)_突失效次數(shù)而又不影響時(shí)鐘頻率的方法"2.基本思想在和它從下一級(jí)存儲(chǔ)器調(diào)數(shù)據(jù)的通賂之間設(shè) 舌一個(gè)全相聯(lián)的小Cache,用于存放被替換出畫的 塊(稱為¥ict im),哄備車用*Ch 3? SIMD vs MIMD （3 個(gè)優(yōu)勢）? SIMD的3種變體：向量體系

13、結(jié)構(gòu)、多媒體 SMD指令集擴(kuò)展、圖形處理單元 GPU? VMIPS的主要組件(4)?流水線沖突是指對(duì)于具體的流水線來說，由于相關(guān)的存在，使得指令流中的下一條指令不能在指定的時(shí)鐘周期執(zhí)行。流水線沖突有三種類型：結(jié)構(gòu)沖突、數(shù)據(jù)沖突、控制沖突L最基本的開發(fā)循環(huán)級(jí)并行的技術(shù)循環(huán)展開C loop unrol I ins)技術(shù)?莊來用向雖指令和向星數(shù)據(jù)表示? Tomasulo 算法：核心思想：記錄和檢測指令相關(guān)，操作數(shù)一旦就緒就立即執(zhí)行，把發(fā)生RAW沖突的可能性減少到最小；通過寄存器換名來消除WAR沖突和WAW沖突。?緩存一致性協(xié)議(Cache cohere nee protocols):為多個(gè)處理器保存

14、緩存一致性的協(xié)議?解決緩存一致性的兩種協(xié)議：基于目錄的協(xié)議(directory based):用特定的物理存儲(chǔ)快來保存每一個(gè)塊的共享狀態(tài)。 監(jiān)聽式的協(xié)議(snooping)：如果一個(gè)緩存擁有某一物理存儲(chǔ)器塊中的數(shù)據(jù)副本，它就 可以跟蹤該塊的共享狀態(tài)。? 監(jiān)聽一致性協(xié)議寫入失效協(xié)議(write in validate protocol )：確保處理器在寫入某一數(shù)據(jù)項(xiàng)之前，獲取對(duì) 改數(shù)據(jù)項(xiàng)的獨(dú)占訪問，在執(zhí)行寫操作時(shí)會(huì)使其他副本失效。使用總線來執(zhí)行失效操作。在獲得總線訪問權(quán)限之前，無法實(shí)際完成共享數(shù)據(jù)項(xiàng)的寫入操作。寫入更新協(xié)議(write update):在寫入一個(gè)數(shù)據(jù)項(xiàng)時(shí)更新該數(shù)據(jù)項(xiàng)的所有緩存副本

15、 計(jì)算機(jī)的發(fā)展歷程：數(shù)據(jù)處理、信息處理、知識(shí)處理、智能處理?解決一致性問題的策略：WSC v.s. HPC HPC 的處理器和節(jié)點(diǎn)之間的網(wǎng)絡(luò)通常比 WSC 中快得多， 因?yàn)?HPC 應(yīng)用程序的獨(dú)立 性更強(qiáng)，通信更頻繁。 HPC 傾向于使用定制硬件(特別是在網(wǎng)絡(luò)中)，通常不能通過使用大眾化商用芯片 來降低成本。 HPC 強(qiáng)調(diào)線程級(jí)并行或數(shù)據(jù)級(jí)并行，通常強(qiáng)調(diào)完成單項(xiàng)任務(wù)的延遲， WSC 強(qiáng)調(diào)請(qǐng) 求級(jí)并行。 HPC 集群通常擁有長時(shí)間的運(yùn)行的作業(yè)，會(huì)使服務(wù)器滿荷運(yùn)行，甚至能持續(xù)數(shù)周以 上，而 WSC 中服務(wù)器的利用率在 10%-50% 之間，而且每天都會(huì)發(fā)生變化。? WSC v.s. Datacen

16、ters 數(shù)據(jù)中心集不同的硬件和軟件于一身， 為一家組織中的不同客戶提供服務(wù)。 WSC 使 倉庫中的硬件和軟件看起來像只有一臺(tái)計(jì)算機(jī)，只是在上面運(yùn)行著各種不同的應(yīng)用程序。 傳統(tǒng)數(shù)據(jù)中心的最大成本是維護(hù)人員的費(fèi)用， WSC 中，服務(wù)器硬件是最大的成本。 傳統(tǒng)數(shù)據(jù)中心不具備 WSC 的規(guī)模， 無法獲得規(guī)模經(jīng)濟(jì)效應(yīng)， 也沒有 WSC 面對(duì)的挑 戰(zhàn)和機(jī)遇，無論是體系結(jié)構(gòu)方面還是運(yùn)轉(zhuǎn)方面。? WSC 的成本 構(gòu)建成本【 Capital expenditures (CAPEX) 資本性支出】：服務(wù)器、電力與制冷基礎(chǔ)設(shè)備、 網(wǎng)絡(luò)設(shè)備、其他基礎(chǔ)設(shè)備運(yùn)行成本【 Operational expenditures

17、(OPEX) 運(yùn)行性支出】：用電成本、安全與設(shè)施管理 人力成本PUE( Power Utilization Effectiveness 功率利用效率)測量 WSC 的效率PUE = 總設(shè)施功率 / IT 設(shè)備功率PUE > 1 , PUE越大，WSC的效率就越低云計(jì)算的三個(gè)特點(diǎn)：風(fēng)險(xiǎn)轉(zhuǎn)移、成本相關(guān)性、按需付費(fèi)云計(jì)算服務(wù)的框架“ SPI ”。這個(gè)縮寫代表著云計(jì)算提供的三種主要的服務(wù)：軟件 即服務(wù)( software-as-a-service ， SaaS )，平臺(tái)即服務(wù)( platform-as-a-service ， PaaS )， 以及基礎(chǔ)設(shè)施即服務(wù) (infrastructure-a

18、s-a-service ， IaaS )。圖 2-3 描述了云計(jì)算的服務(wù)、 用戶和類型之間的關(guān)系。嚴(yán)”Software 裁 a Service/ J應(yīng)甲脈蓋提俱商(ASP * Applieat ioh Service Prcvidfer )/服務(wù)接口鞍重收M平臺(tái)提供商PlatfQrjn as a 5ervice服務(wù)接口披使用里收賞云廿算凰冊(cè)設(shè)施提供商（虛抵此層）(IaaS)Irtf r ast ruGt rue as a性能的發(fā)展趨勢一一帶寬優(yōu)于時(shí)延計(jì)算機(jī)技術(shù)的飛速發(fā)展得益于兩個(gè)方面：計(jì)算機(jī)制造技術(shù)的發(fā)展、計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)的創(chuàng)新 計(jì)算機(jī)系統(tǒng)中的透明性舉例：浮點(diǎn)運(yùn)算器、多核透明性t虛擬化t云計(jì)算計(jì)

19、算機(jī)體系結(jié)構(gòu)：必考：定量原理（5個(gè)）30%1、以經(jīng)常性事件為重點(diǎn)（大概率事件優(yōu)先原則）2014、 10、 23軟件應(yīng)滿足可以向上和向后兼容。解釋方法：一條一條指令地調(diào)進(jìn)內(nèi)存，一條一條地解釋。時(shí)間長但花費(fèi)空間少 提高并行性的技術(shù)途徑: 時(shí)間重疊（流水技術(shù)） 資源重復(fù)：引入空間因素，以數(shù)量取勝。 資源共享 計(jì)算機(jī)的分類劃代主要以器件作為劃分標(biāo)準(zhǔn)優(yōu)化緩存性能的 16 種方法（必考）第四章考試比例較小開發(fā) ILP 涉及到的主要技術(shù)（可能考）參考課件后的： ILP 研究中為客服各種停頓所采取的 相關(guān)技術(shù)。開放考題：GPU、云計(jì)算（軟件級(jí)服務(wù)，平臺(tái)式服務(wù)。3個(gè)）（與書上第六章相關(guān)，并適當(dāng)查詢新資料）E.g

20、.超算中心有什么特別之處（可能考） Thamosulo 算法核心思想、基本概念第四章沒有計(jì)算題，主要考GPU 和 SIMD.SIMD 的三個(gè)變體 加速比（必考）考點(diǎn)：看書上相關(guān)的例子 重新寫消除相關(guān)（寄存器重命名）期末考試不考流水線考：填空：云計(jì)算的三個(gè)特點(diǎn)：風(fēng)險(xiǎn)轉(zhuǎn)移、成本相關(guān)性、按需付費(fèi)考：概念題： PUEPUE 總是大于等于 1PUE 等于 1 最佳 大于 1時(shí)說明資源浪費(fèi)考：解釋 WSC 的成本：構(gòu)建成本和運(yùn)行成本畫出SPM模型（3個(gè)服務(wù)）HPC 服務(wù)器（考點(diǎn)）計(jì)算機(jī)性能的變遷：從單處理器到多核將來的計(jì)算機(jī)：智能 并行性 分級(jí)存儲(chǔ)結(jié)構(gòu)相聯(lián)3C 4C 模式Coherency)3C 模式：強(qiáng)

21、制（Compulsory）、容量（Capacity）、沖突（Conflict）、一致性 缺失平均訪存公式優(yōu)化（ 6基本+10 高級(jí)（分 5類）三相關(guān)ILP 流水線消除停頓的方法不計(jì)算Tomasulo 算法基本思想CPI IPC相關(guān)性在數(shù)組的情況下如何解決相關(guān)性四、SIMD 的三種變體 數(shù)據(jù)級(jí)并行相關(guān)性的引申 第四章的相關(guān)性的例子 五、（期中測過）兩個(gè)協(xié)議解決一次性問題的策略倉庫級(jí)計(jì)算機(jī)的基礎(chǔ)設(shè)施和價(jià)格運(yùn)行成本（制冷等） PUE 的公式 構(gòu)建成本和運(yùn)行成本 云計(jì)算1. CPU t?t的扌幷令紋kQPIx町対刊剛時(shí)仙2. X曲迪痩址Y的nfa； n二執(zhí)門燉的“執(zhí)行時(shí)剛，-忡徒“們能vh?RJtH

22、in»i新執(zhí)衿訂的I-升規(guī)比例1川級(jí)比例了卜級(jí)瓶ldJ匕4.:"容性 偵譏*電也”S”功札； X窖怦罠代KtLJI"川關(guān)頌屮6. -X）斗匯"x Hl ifijit *x' IlJ-L-制d町時(shí)問7 iJ»Jj HJH w屮均 無故鬥時(shí)的卩均伸0時(shí)何& 冊(cè);匸品半AAiwirn品 <-«i/（i*f?jhim 卜一的缺miiH廣（II中MLTJ W 血了壞到f 需眇測i氏的品陰.Z繪一個(gè)你為】芝蟻雜度內(nèi)數(shù)的勢戰(zhàn).皐制込祚閒 n<JJOJil 201 1 «t JV的 JtLtrllinZrl 1-5 15.5