本科系統(tǒng)結(jié)構(gòu)課件 chapter5-1

第五章

流水和指令級高度并行的超級機加速機器語言解釋的兩種方式

通過選用更高速的器件，采用更好的運算方法、提高指令內(nèi)各微操作的并行程度，減少解釋過程所需要的拍數(shù)，以加快每條指令的解釋。通過控制機構(gòu)采用同時解釋兩條、多條以至整段程序的控制方式，加快整個機器語言程序的解釋。重疊、流水。

WhatIsPipeliningLaundry（洗衣）ExampleAnn,Brian,Cathy,Dave

eachhaveoneloadofclothes

towash,dry,andfoldWashertakes30minutesDryertakes40minutes“Folder”takes20minutesABCDWhatIsPipeliningSequentiallaundrytakes6hoursfor4loadsIftheylearnedpipelining,howlongwouldlaundrytake?ABCD3040203040203040203040206PM7891011MidnightTaskOrderTimeWhatIsPipelining

StartworkASAPPipelinedlaundrytakes3.5hoursfor4loadsABCD6PM7891011MidnightTaskOrderTime304040404020PipeliningLessonsPipeliningdoesn’thelplatencyofsingletask,ithelpsthroughputofentireworkloadPipelineratelimitedbyslowestpipelinestageMultipletasksoperatingsimultaneouslyPotentialspeedup=Number

pipestagesUnbalancedlengthsofpipestagesreducesspeedupTimeto“fill”pipelineandtimeto“drain（排出）”itreducesspeedupABCD6PM789TaskOrderTime304040404020WhatIsPipelining目錄重疊方式流水方式向量的流水處理與向量流水處理機指令級高度并行的超級處理機§1重疊方式

基本思想和一次重疊

相關(guān)處理

取指令分析執(zhí)行對一條機器指令的解釋順序解釋與重疊解釋順序解釋取指令k執(zhí)行k分析k取指令k+1執(zhí)行k+1分析k+1取指令k執(zhí)行k分析k取指令k+1執(zhí)行k+1分析k+1取指令k+2執(zhí)行k+2分析k+2重疊解釋的一種方式一次重疊的工作方式執(zhí)行k分析k執(zhí)行k+1分析k+1執(zhí)行k+2分析k+2基本思想和一次重疊

順序解釋：各條機器指令之間順序串行地執(zhí)行，執(zhí)行完一條指令后采取出下條指令來執(zhí)行，而且每條指令內(nèi)部的各個微操作也是順序串行地執(zhí)行。

優(yōu)點：控制簡單。重疊解釋：在解釋第k條指令的操作完成之前，就可開始解釋第k+1條指令不能加快一條指令的實現(xiàn)但能加快相鄰兩條以至一段程序的解釋時間重疊，解決訪存沖突

操作數(shù)和指令分存于兩個獨立編址且可同時訪問的存儲器，有利于實現(xiàn)指令保護，增加總線控制和軟件設(shè)計的復雜性混存，采用多體交叉主存結(jié)構(gòu)增設(shè)指令緩沖寄存器解決訪存沖突（續(xù)）在硬件上，保證又獨立的指令分析部件和指令執(zhí)行部件；

兩部分執(zhí)行的時間常常不相同，在硬件上解決好控制上的同步；

控制上的其他問題指令轉(zhuǎn)移，下圖分析k+1執(zhí)行k+1分析k+1執(zhí)行m分析m分析k執(zhí)行k取指m執(zhí)行m分析m結(jié)果取指k+1取指k+1取指m當轉(zhuǎn)移不成功時：當轉(zhuǎn)移成功且指令m在指緩中時：當轉(zhuǎn)移成功且指令m不在指緩中時：當?shù)趉條指令使條件轉(zhuǎn)移時相關(guān)問題數(shù)相關(guān)：第k、k+1條指令的數(shù)據(jù)地址之間有了關(guān)聯(lián)。數(shù)相關(guān)不僅發(fā)生在主存空間，還會發(fā)生在通用寄存器空間指令相關(guān)：采用VonNeumann型機器上指令可修改的辦法經(jīng)第k條指令的執(zhí)行來形成第k+1條指令指令相關(guān)的處理

原因：VonNeumann型機器的指令允許修改。解決：在程序執(zhí)行過程中，不準修改指令，除可解決指令相關(guān)，也可實現(xiàn)程序的可再入性和程序的遞歸調(diào)用。

主存空間數(shù)相關(guān)的處理

相鄰兩條指令之間要求對主存同一單元線寫入而后再讀出的關(guān)聯(lián)。解決：延遲。

主存數(shù)相關(guān)的處理分析k執(zhí)行k（寫數(shù)）分析k+1（讀數(shù)）執(zhí)行k+1寫入m讀m退后一個主存周期分析k執(zhí)行k（寫數(shù)申請）寫入m分析k（讀數(shù)申請）執(zhí)行k需讀m主存數(shù)相關(guān)的時間關(guān)系通用寄存器數(shù)相關(guān)處理

延遲和設(shè)置“相關(guān)專用通路”是解決重疊方式相關(guān)處理的兩種基本方法。前者設(shè)備不變，降低速度；后者增加設(shè)備，效率不變。

指令解釋過程中與通用寄存器

內(nèi)容有關(guān)的微操作時間關(guān)系分析執(zhí)行用基/變址值取操作數(shù)用操作數(shù)存結(jié)果“執(zhí)行”、“分析”重疊時，訪問通用寄存器組的時間關(guān)系執(zhí)行k結(jié)果送入L3分析k+1第1拍第2拍第3拍第4拍(L1)送入B(L2)送入C用相關(guān)專用通路解決

通用寄存器組的數(shù)相關(guān)通用寄存器組運算器BC相關(guān)專用通路數(shù)據(jù)總線運算結(jié)果順序執(zhí)行方式執(zhí)行n條指令所用的時間為：如每段時間都為t，則執(zhí)行n條指令所用的時間為：T=3nt主要優(yōu)點：控制簡單，節(jié)省設(shè)備主要缺點：執(zhí)行指令的速度慢，功能部件的利用率很低。取指令k分析k執(zhí)行k取指令k+1分析k+1執(zhí)行k+1一次重疊執(zhí)行方式

(一種最簡單的流水線方式)如果兩個過程的時間相等，則執(zhí)行n條指令的時間為：T=(1+2n)t主要優(yōu)點：指令的執(zhí)行時間縮短功能部件的利用率明顯提高主要缺點：需要增加一些硬件控制過程稍復雜取指分析執(zhí)行取指分析執(zhí)行取指分析執(zhí)行二次重疊執(zhí)行方式如果三過程的時間相等，執(zhí)行n條指令的時間為：T=(2+n)t理想情況下同時有三條指令在執(zhí)行處理機的結(jié)構(gòu)要作比較大的改變，必須采用先行控制方式取指k+2分析k+2執(zhí)行k+2取指k+1分析k+1執(zhí)行k+1取指k分析k執(zhí)行k先行控制方式的原理采用二次重疊執(zhí)行方式，必須解決兩個問題：有獨立的取指令部件、指令分析部件和指令執(zhí)行部件獨立的控制器：存儲控制器、指令控制器、運算控制器要解決訪問主存儲器的沖突問題取指令、分析指令、執(zhí)行指令都可能要訪問存儲器解決訪存沖突的方法：采用低位交叉存取方式：這種方法不能根本解決沖突問題。先行控制方式的原理（續(xù)）兩個獨立的存儲器：獨立的指令存儲器和數(shù)據(jù)存儲器。如果再規(guī)定，執(zhí)行指令所需要的操作數(shù)和執(zhí)行結(jié)果只寫到通用寄存器，那么，取指令、分析指令和執(zhí)行指令就可以同時進行。在許多高性能處理機中，有獨立的指令Cache和數(shù)據(jù)Cache。這種結(jié)構(gòu)被稱為哈佛結(jié)構(gòu)。先行控制方式的原理（續(xù)）采用先行控制技術(shù)。先行控制技術(shù)的關(guān)鍵是緩沖技術(shù)和預處理技術(shù)。緩沖技術(shù)是在工作速度不固定的兩個功能部件之間設(shè)置緩沖棧，用以平滑它們的工作。在采用了緩沖技術(shù)和預處理技術(shù)之后，運算器能夠?qū)Ｐ挠跀?shù)據(jù)的運算，從而大幅度提高程序的執(zhí)行速度。(a)重疊方式分析k+1分析k執(zhí)行k執(zhí)行k+1分析k+2執(zhí)行k+2分析部件空閑執(zhí)行部件空閑分析k+1分析k執(zhí)行k分析k+2(b)先行控制執(zhí)行k+1執(zhí)行k+2結(jié)果：解決了分析與執(zhí)行時間不等長問題。與重疊區(qū)別：分析和執(zhí)行部件可同時處理兩條不相鄰指令。采用技術(shù)：緩沖技術(shù)