容量大且快速利用階層式記憶體

1、第七章 容量大且快速：利用階層式記憶體頁 計(jì)算機(jī)組織與設(shè)計(jì)-軟硬體介面Ch.7 記憶體第七章 容量大且快速：利用階層式記憶體頁 計(jì)算機(jī)組織與設(shè)計(jì)-軟硬體介面虛擬記憶體主記憶體作為次儲(chǔ)存體(一般為disk)的快取.這個(gè)技巧我們稱為虛擬記憶體.設(shè)計(jì)虛擬記憶體的動(dòng)機(jī):1.使記憶體能夠有效率且安全的分享給好幾個(gè)程式. 許多的程式都能同時(shí)在一部機(jī)器上執(zhí)行2.由於主記憶體的容量限制,能搬移小負(fù)荷的程式到次儲(chǔ)存體裏. 允許使用者程式超過主記憶容量大小磁碟位址實(shí)體位址虛擬位址位址轉(zhuǎn)譯page第七章 容量大且快速：利用階層式記憶體頁 計(jì)算機(jī)組織與設(shè)計(jì)-軟硬體介面Page faults: the data is

2、not in memory, retrieve it from disk huge miss penalty, thus pages should be fairly large (e.g., 4KB) reducing page faults is important (LRU is worth the price) can handle the faults in software instead of hardware using write-through is too expensive so we use writeback3 2 1 011 10 9 815 14 13 1231

3、 30 29 28 27Page offsetVirtual page numberVirtual address3 2 1 011 10 9 815 14 13 1229 28 27Page offsetPhysical page numberPhysical addressTranslation虛擬記憶體第七章 容量大且快速：利用階層式記憶體頁 計(jì)算機(jī)組織與設(shè)計(jì)-軟硬體介面Page offsetVirtual page num berV irtua l a ddre ssPage offsetPhysical page num berPhysical addressPhysical pag

4、e num berValidIf 0 then page is notpresent in m emoryPage table registerPage table20121831 30 29 28 27 15 14 13 12 11 10 9 8 3 2 1 029 28 2715 14 13 12 11 10 9 8 3 2 1 0指向分頁表開始處指向分頁表開始處一個(gè)一個(gè)page為為4KB實(shí)體記憶體大小為實(shí)體記憶體大小為1GB可定址到可定址到4GB虛擬記憶體第七章 容量大且快速：利用階層式記憶體頁 計(jì)算機(jī)組織與設(shè)計(jì)-軟硬體介面P h y s ic a l m e m o ryD is k

5、s to ra g eV a lid111101101101P a g e ta b leV irtu a l p a g en u m b e rP h y s ic a l p a g e o rd is k a d d re s s虛擬記憶體0表示資料在磁碟表示資料在磁碟,1表示資料在記憶體表示資料在記憶體.Page table 也是儲(chǔ)存在記憶裏也是儲(chǔ)存在記憶裏,故至少做兩故至少做兩次記憶體存取次記憶體存取.(效能問題效能問題?)第七章 容量大且快速：利用階層式記憶體頁 計(jì)算機(jī)組織與設(shè)計(jì)-軟硬體介面Valid111101101101Page tablePhysical pageaddre

6、ssValidTLB111101TagVirtual pagenumberPhysical pageor disk addressPhysical memoryDisk storage A cache for address translations: translation lookaside buffer虛擬記憶體TLB:分頁表的分頁表的cache第七章 容量大且快速：利用階層式記憶體頁 計(jì)算機(jī)組織與設(shè)計(jì)-軟硬體介面虛擬記憶體一旦作業(yè)系統(tǒng)知道造成分頁錯(cuò)誤的虛擬位址,它一定會(huì)完成下列三個(gè)步驟.1.使用虛擬位址來查詢分頁表登錄項(xiàng)目並找出磁碟中參考頁的位置.2.選擇一實(shí)體來代替;如果選擇頁次被修

7、正過了,在我們將一新的虛擬頁次載入實(shí)體頁次之前,它必須先寫出到磁碟.3.開始一讀取動(dòng)作,將參考的頁次由磁碟帶入選擇的體頁次.第七章 容量大且快速：利用階層式記憶體頁 計(jì)算機(jī)組織與設(shè)計(jì)-軟硬體介面虛擬記憶體分頁錯(cuò)誤時(shí),會(huì)造成很多的時(shí)間浪費(fèi),可使用下列幾個(gè)技術(shù)來減少miss rate.1.使用較大的區(qū)塊(page),利用空間區(qū)域性來減少miss rate.2.虛擬記憶體之間的映射以完全關(guān)連性分頁表來製作,因此虛擬頁次可以放在主記憶體的任一個(gè)地方.3.作業(yè)系統(tǒng)使用如LRU與參考位元的技術(shù)來選擇哪個(gè)頁次需被替換.第七章 容量大且快速：利用階層式記憶體頁 計(jì)算機(jī)組織與設(shè)計(jì)-軟硬體介面階層式記憶體的通用組

8、織架構(gòu)問題1.一個(gè)區(qū)塊可以被放置在什麼地方 ?階層式記憶體任兩層間產(chǎn)生的4個(gè)問題.放置方式的名稱集合的數(shù)目每個(gè)集合中區(qū)塊的數(shù)目直接映射等於快取中區(qū)塊的數(shù)目1集合關(guān)聯(lián)式快取中區(qū)塊的數(shù)目/關(guān)聯(lián)性關(guān)聯(lián)性(n-way)完全關(guān)聯(lián)式1等於快取中區(qū)塊的數(shù)目增加關(guān)聯(lián)性增加關(guān)聯(lián)性,優(yōu)點(diǎn)是可降低優(yōu)點(diǎn)是可降低miss rate,缺點(diǎn)是增加成本缺點(diǎn)是增加成本及存取時(shí)間變長及存取時(shí)間變長.第七章 容量大且快速：利用階層式記憶體頁 計(jì)算機(jī)組織與設(shè)計(jì)-軟硬體介面階層式記憶體的通用組織架構(gòu)問題2.如何找到區(qū)塊 ?關(guān)聯(lián)性找到區(qū)塊的方法需要比較器數(shù)目直接映射索引1集合關(guān)聯(lián)式利用引找到集合,再搜尋集合中的資料成員關(guān)聯(lián)性的級(jí)數(shù)(n-

9、way需要n個(gè))完全關(guān)聯(lián)式搜尋快取中所有的項(xiàng)目快取的容量分離查表0用來索引記憶體用來索引記憶體第七章 容量大且快速：利用階層式記憶體頁 計(jì)算機(jī)組織與設(shè)計(jì)-軟硬體介面虛擬記憶體系統(tǒng)使用完全關(guān)聯(lián)式的放置方式.1.因?yàn)檎`失的成本很昂貴.2.完全關(guān)聯(lián)性可以讓我們用軟體來執(zhí)行複雜的放置方式以降低誤失比例.3.完全關(guān)聯(lián)映射可以簡單的用索引方式來達(dá)成,而不需要額外的硬體及搜尋.4.容量大的頁次代表頁次表格負(fù)荷比較小.階層式記憶體的通用組織架構(gòu)第七章 容量大且快速：利用階層式記憶體頁 計(jì)算機(jī)組織與設(shè)計(jì)-軟硬體介面階層式記憶體的通用組織架構(gòu)問題3.當(dāng)快取誤失時(shí),哪一個(gè)區(qū)塊將被取代替換 ?1.隨機(jī)(random)

10、: 被替換的區(qū)塊是隨機(jī)選出來的.2.LRU: 最長時(shí)間沒有被使用的那一個(gè)區(qū)塊會(huì)被取代替換掉.隨機(jī)取代的方式簡單,容易實(shí)作,LRU方式則miss rate較低,當(dāng)快取容量變大時(shí),miss rate均下降,且兩者的絕對差值也會(huì)變小.第七章 容量大且快速：利用階層式記憶體頁 計(jì)算機(jī)組織與設(shè)計(jì)-軟硬體介面階層式記憶體的通用組織架構(gòu)問題4.在寫入時(shí)會(huì)發(fā)生什麼事 ?1.Write through : 資訊不但被寫到快取中,還被寫到較低層次的階層式記憶體中.簡單且成本便宜簡單且成本便宜.容易製作容易製作.可以用寫入緩衝器增加效能可以用寫入緩衝器增加效能.2.Write back : 資訊只有寫到快取中,只有

11、當(dāng)區(qū)塊被取代時(shí),如果此區(qū)塊被修改過,則必須被寫入到較低層的階層式記憶體中.單一字組能以快取記憶體的速率被處理機(jī)寫入單一字組能以快取記憶體的速率被處理機(jī)寫入.寫入快取多次寫入快取多次,但可當(dāng)區(qū)塊被取代時(shí)但可當(dāng)區(qū)塊被取代時(shí),才寫入到次記憶體才寫入到次記憶體,故寫入較低層的記憶體故寫入較低層的記憶體只需要一次只需要一次.頻寬利用較有效率頻寬利用較有效率.第七章 容量大且快速：利用階層式記憶體頁 計(jì)算機(jī)組織與設(shè)計(jì)-軟硬體介面階層式記憶體的通用組織架構(gòu)三種C :1.強(qiáng)迫性誤失(compulsory misses) : 若此區(qū)塊從未被使用過,那麼第一次讀取時(shí)此區(qū)塊必定不在快取中,故第一次存取此區(qū)塊就會(huì)發(fā)生誤失.這也稱冷開機(jī)誤失(cold-star misses).2.容量性誤失(capacity misses) : 當(dāng)程式在執(zhí)行時(shí),若快取記憶體的容量不夠不能包含所有該程式需要的區(qū)