計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)向量處理機(jī)

計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)向量處理機(jī)第一頁，共四十五頁，2022年，8月28日計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)第一章基本概念第二章指令系統(tǒng)第三章存儲(chǔ)系統(tǒng)第四章輸入輸出系統(tǒng)第五章標(biāo)量處理機(jī)第六章向量處理機(jī)第七章互連網(wǎng)絡(luò)第八章并行處理機(jī)和 多處理機(jī)第二頁，共四十五頁，2022年，8月28日第六章向量處理機(jī)6.1向量數(shù)據(jù)表示方式6.2向量處理機(jī)的結(jié)構(gòu)6.3向量處理方式6.4向量處理機(jī)的關(guān)鍵技術(shù)6.5向量處理機(jī)實(shí)例6.6

向量處理機(jī)的性能評價(jià)6.7向量處理機(jī)的發(fā)展第三頁，共四十五頁，2022年，8月28日6.1向量數(shù)據(jù)表示方式向量處理機(jī)是解決數(shù)值計(jì)算問題的一種高性能計(jì)算機(jī)結(jié)構(gòu)向量處理機(jī)一般都采用流水線結(jié)構(gòu)，有多條流水線并行工作向量處理機(jī)通常屬大型或巨型機(jī)，也可以用微機(jī)加一臺(tái)向量協(xié)處理器組成一般向量計(jì)算機(jī)中包括有一臺(tái)高性能標(biāo)量處理機(jī)必須把要解決的問題轉(zhuǎn)化為向量運(yùn)算，向量處理機(jī)才能充分發(fā)揮作用第四頁，共四十五頁，2022年，8月28日6.1向量數(shù)據(jù)6.1.1從標(biāo)量到向量第五頁，共四十五頁，2022年，8月28日6.1.1從標(biāo)量到向量例如：一個(gè)簡單的C語言程序如下：

for(i=10;i<=1010;i++)

c[i]=a[i]+b[i+5];在向量處理機(jī)上，可以只用一條指令：

C(10:1010)=A(10:1010)+B(15:1015)

一條向量指令可處理Ｎ個(gè)或Ｎ對操作數(shù)在標(biāo)量處理機(jī)上用10多條指令，其中有8條指令要循環(huán)1000次。

采用多寄存器結(jié)構(gòu)的兩地址指令編寫程序。第六頁，共四十五頁，2022年，8月28日

存儲(chǔ)器采用字節(jié)編址方式，字長為32位

在一般標(biāo)量處理機(jī)中需要如下指令序列來實(shí)現(xiàn)（A、B、C分別是向量a、b、c在內(nèi)存中的起始地址）：START: LOAD R0, ST ;讀循環(huán)初值,10

LOAD R1, ED ;讀循環(huán)終值,1010

LOAD R2, L ;讀內(nèi)存地址增量,

;常數(shù)4

MOVE R3, R2 MUL R3, R0 ;向量偏移量, ;初始值為40LOOP: LOAD R4, A(R3) ;讀A向量的

;一個(gè)元素第七頁，共四十五頁，2022年，8月28日

LOAD R5, B(R3) ;讀B向量的一個(gè)元素

ADD R4, R5 STORE R4, C(R3) ;寫C向量的一個(gè)元素

ADD R3, R2 ;改變向量偏移量

INC R0 ;循環(huán)次數(shù)增1

CMP R0, R1 ;循環(huán)是否結(jié)束

BLE LOOP ;循環(huán)未結(jié)束轉(zhuǎn)LOOP, ;否則繼續(xù)

HALTST: 10 ;循環(huán)初值ED: 1010 ;循環(huán)終值L: 4 ;內(nèi)存地址增量第八頁，共四十五頁，2022年，8月28日第六章向量處理機(jī)6.1向量數(shù)據(jù)表示方式6.2向量處理機(jī)的結(jié)構(gòu)6.3向量處理方式6.4向量處理機(jī)的關(guān)鍵技術(shù)6.5向量處理機(jī)實(shí)例6.6

向量處理機(jī)的性能評價(jià)6.7向量處理機(jī)的發(fā)展第九頁，共四十五頁，2022年，8月28日6.2向量處理機(jī)結(jié)構(gòu)向量處理機(jī)的最關(guān)鍵問題是存儲(chǔ)器系統(tǒng)能夠滿足運(yùn)算部件帶寬的要求。主要采用兩種方法：

1.存儲(chǔ)器－存儲(chǔ)器結(jié)構(gòu)

多個(gè)獨(dú)立的存儲(chǔ)器模塊并行工作

處理機(jī)結(jié)構(gòu)簡單，對存儲(chǔ)系統(tǒng)的

訪問速度要求很高

2.寄存器－寄存器結(jié)構(gòu)

運(yùn)算通過向量寄存器進(jìn)行

需要大量高速寄存器，對存儲(chǔ)系

統(tǒng)訪問速度的要求降低第十頁，共四十五頁，2022年，8月28日6.2.1存儲(chǔ)器－存儲(chǔ)器結(jié)構(gòu)向量處理機(jī)中有多個(gè)高速流水線運(yùn)算部件，存儲(chǔ)器的訪問速度是關(guān)鍵采用多個(gè)存儲(chǔ)體交叉和并行訪問來提高存儲(chǔ)器速度，例如：

CRAY-1有64個(gè)存儲(chǔ)體，每個(gè)處理機(jī)訪問4個(gè)存儲(chǔ)體

STAR-100采用32個(gè)存儲(chǔ)體交叉，每個(gè)存儲(chǔ)體并行讀出8個(gè)64位數(shù)據(jù)

我國研制的YH-1向量計(jì)算機(jī)有37個(gè)存儲(chǔ)體第十一頁，共四十五頁，2022年，8月28日操作數(shù)緩沖棧和寫結(jié)果緩沖棧主要用于解決訪問存儲(chǔ)器沖突

雖然采用質(zhì)數(shù)個(gè)存儲(chǔ)體能消除訪問存儲(chǔ)器的沖突，但是，數(shù)據(jù)經(jīng)過多次運(yùn)算之后，在存儲(chǔ)體中分布必然發(fā)生改變主要優(yōu)缺點(diǎn)：

硬件結(jié)構(gòu)簡單,造價(jià)低；速度相對較低操作數(shù)緩沖棧寫結(jié)果緩沖棧主存

儲(chǔ)器流水線運(yùn)算部件第十二頁，共四十五頁，2022年，8月28日6.2.2寄存器-寄存器結(jié)構(gòu)把存儲(chǔ)器-存儲(chǔ)器結(jié)構(gòu)中的緩沖棧改為向量寄存器，運(yùn)算部件需要的操作數(shù)從向量寄存器中讀取，運(yùn)算的中間結(jié)果也寫到向量寄存器中。向量寄存器與標(biāo)量寄存器的主要差別是：

一個(gè)向量寄存器能夠保存一個(gè)向量，

例如：64個(gè)64位寄存器。

連續(xù)訪問一個(gè)向量的各個(gè)分量。需要有標(biāo)量寄存器和地址寄存器等。第十三頁，共四十五頁，2022年，8月28日采用寄存器-寄存器結(jié)構(gòu)的主要優(yōu)點(diǎn)：降低主存儲(chǔ)器的流量。

例如：采用寄存器-寄存器結(jié)構(gòu)的CRAY-1與采用存儲(chǔ)器-存儲(chǔ)器結(jié)構(gòu)的STAR-100比較，運(yùn)算速度高3倍多，而主存流量低2.5倍。

STAR-100的主存儲(chǔ)器流量：32×8W/1.28us=200MW/S

CRAY-1的主存儲(chǔ)器流量：4W/50ns=80MW/S第十四頁，共四十五頁，2022年，8月28日計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)（第21講）

第十五頁，共四十五頁，2022年，8月28日第六章向量處理機(jī)6.1向量數(shù)據(jù)表示方式6.2向量處理機(jī)的結(jié)構(gòu)6.3向量處理方式6.4向量處理機(jī)的關(guān)鍵技術(shù)6.5向量處理機(jī)實(shí)例6.6

向量處理機(jī)的性能評價(jià)6.7向量處理機(jī)的發(fā)展第十六頁，共四十五頁，2022年，8月28日6.2向量處理機(jī)結(jié)構(gòu)向量處理機(jī)的最關(guān)鍵問題是存儲(chǔ)器系統(tǒng)能夠滿足運(yùn)算部件帶寬的要求。主要采用兩種方法：

1.存儲(chǔ)器－存儲(chǔ)器結(jié)構(gòu)

多個(gè)獨(dú)立的存儲(chǔ)器模塊并行工作

處理機(jī)結(jié)構(gòu)簡單，對存儲(chǔ)系統(tǒng)的

訪問速度要求很高

2.寄存器－寄存器結(jié)構(gòu)

運(yùn)算通過向量寄存器進(jìn)行

需要大量高速寄存器，對存儲(chǔ)系

統(tǒng)訪問速度的要求降低第十七頁，共四十五頁，2022年，8月28日6.2.1存儲(chǔ)器－存儲(chǔ)器結(jié)構(gòu)向量處理機(jī)中有多個(gè)高速流水線運(yùn)算部件，存儲(chǔ)器的訪問速度是關(guān)鍵采用多個(gè)存儲(chǔ)體交叉和并行訪問來提高存儲(chǔ)器速度，例如：

CRAY-1有64個(gè)存儲(chǔ)體，每個(gè)處理機(jī)訪問4個(gè)存儲(chǔ)體

STAR-100采用32個(gè)存儲(chǔ)體交叉，每個(gè)存儲(chǔ)體并行讀出8個(gè)64位數(shù)據(jù)

我國研制的YH-1向量計(jì)算機(jī)有37個(gè)存儲(chǔ)體第十八頁，共四十五頁，2022年，8月28日采用寄存器-寄存器結(jié)構(gòu)的主要優(yōu)點(diǎn)：降低主存儲(chǔ)器的流量。

例如：采用寄存器-寄存器結(jié)構(gòu)的CRAY-1與采用存儲(chǔ)器-存儲(chǔ)器結(jié)構(gòu)的STAR-100比較，運(yùn)算速度高3倍多，而主存流量低2.5倍。

STAR-100的主存儲(chǔ)器流量：32×8W/1.28us=200MW/S

CRAY-1的主存儲(chǔ)器流量：4W/50ns=80MW/S第十九頁，共四十五頁，2022年，8月28日8個(gè)向量寄存器8×64×64主存

儲(chǔ)器8MB64個(gè)

個(gè)體12個(gè)流水線結(jié)構(gòu)的運(yùn)算部件緩沖寄存器64×64標(biāo)量寄存器8×64緩沖寄存器64×24地址寄存器8×24指令緩沖寄存器256×16CRAY-1向量處理機(jī)結(jié)構(gòu)第二十頁，共四十五頁，2022年，8月28日第六章向量處理機(jī)6.1向量數(shù)據(jù)表示方式6.2向量處理機(jī)的結(jié)構(gòu)6.3向量處理方式6.4向量處理機(jī)的關(guān)鍵技術(shù)6.5向量處理機(jī)實(shí)例6.6

向量處理機(jī)的性能評價(jià)6.7向量處理機(jī)的發(fā)展第二十一頁，共四十五頁，2022年，8月28日6.3向量處理方式要根據(jù)向量運(yùn)算的特點(diǎn)和向量處理機(jī)的類型選擇向量的處理方式。有三種處理方式：

1．橫向處理方式，又稱為水平處理方式，橫向加工方式等。向量計(jì)算是按行的方式從左至右橫向地進(jìn)行。

2．縱向處理方式，又稱為垂直處理方式，縱向加工方式等。向量計(jì)算是按列的方式自上而下縱向地進(jìn)行。

3．縱橫處理方式，又稱為分組處理方第二十二頁，共四十五頁，2022年，8月28日

式，縱橫向加工方式等。橫向處理和縱向處理相結(jié)合的方式。

以一個(gè)簡單的C語言編寫的程序?yàn)槔?，說明向量的三種處理方式的工作原理。

for(i=1；i<=n；i++)

y[i]=a[i]×(b[i]+c[i]);第二十三頁，共四十五頁，2022年，8月28日6.3.1橫向處理方式也稱為水平處理方式，橫向加工方式等

逐個(gè)分量進(jìn)行處理：假設(shè)中間結(jié)果為T(I)

計(jì)算第1個(gè)分量：

T(1)

＝B(1)＋C(1)

Y(1)＝A(1)×T(1)

計(jì)算第2個(gè)分量：

T(2)

＝B(2)＋C(2)

Y(2)＝A(2)×T(2)

……

計(jì)算最后一個(gè)分量：

T(N)

＝B(N)＋C(N)

Y(N)＝A(N)×T(N)第二十四頁，共四十五頁，2022年，8月28日存在兩個(gè)問題：

在計(jì)算向量的每個(gè)分量時(shí)，都發(fā)生寫讀數(shù)據(jù)相關(guān)。流水線效率低

如果采用多功能流水線，必須頻繁進(jìn)行流水線切換

橫向處理方式對向量處理機(jī)不適合

即使在標(biāo)量處理機(jī)中，也經(jīng)常通過編譯器進(jìn)行指令流調(diào)度。第二十五頁，共四十五頁，2022年，8月28日6.3.2縱向處理方式也稱為垂直處理方式，縱向加工方式等

T(1)=B(1)+C(1)

T(2)=B(2)+C(2)

……

T(n)=B(n)+C(n)

Y(1)=A(1)×T(1)

Y(2)=A(2)×T(2)

……

Y(N)=A(N)×T(N)第二十六頁，共四十五頁，2022年，8月28日采用向量指令只需要2條：

VADD B，C，T

VMUL A，T，Y

這種處理方式適用于向量處理機(jī)

數(shù)據(jù)相關(guān)不影響流水線連續(xù)工作。

不同的運(yùn)算操作只需要切換1次。第二十七頁，共四十五頁，2022年，8月28日6.3.3縱橫處理方式用于寄存器-寄存器結(jié)構(gòu)的向量處理機(jī)中

向量寄存器的長度是有限的，例如，每個(gè)向量寄存器有64個(gè)寄存器。當(dāng)向量長度N大于向量寄存器長度n時(shí)，需要分組處理。分組方法：Ｎ＝Ｋ·ｎ＋ｒ，其中：ｒ?yàn)橛鄶?shù)，共分Ｋ＋１組。

組內(nèi)采用縱向處理方式，組間采用橫向處理方式。因此，也稱為分組處理方式，縱橫向加工方式等。第二十八頁，共四十五頁，2022年，8月28日計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)（第22講）

第二十九頁，共四十五頁，2022年，8月28日6.3.3縱橫處理方式用于寄存器-寄存器結(jié)構(gòu)的向量處理機(jī)中

向量寄存器的長度是有限的，例如，每個(gè)向量寄存器有64個(gè)寄存器。當(dāng)向量長度N大于向量寄存器長度n時(shí)，需要分組處理。分組方法：Ｎ＝Ｋ·ｎ＋ｒ，其中：ｒ?yàn)橛鄶?shù)，共分Ｋ＋１組。

組內(nèi)采用縱向處理方式，組間采用橫向處理方式。因此，也稱為分組處理方式，縱橫向加工方式等。第三十頁，共四十五頁，2022年，8月28日運(yùn)算過程為：

第１組：

T(1,n)=B(1,n)+C(1,n)

Y(1,n)=A(1,n)×T(1,n)

第２組：

T(n+1,2n)=B(n+1,2n)＋C(n+1,2n)

Y(n+1,2n)=A(n+1,2n)×T(n+1,2n)

……

最后第k+1組：

T(kn+1,N)=B(kn+1,N)+C(kn+1,N)

Y(kn+1,N)=A(kn+1,N)+T(kn+1,N)第三十一頁，共四十五頁，2022年，8月28日每組用兩條向量指令，每組發(fā)生數(shù)據(jù)相關(guān)兩次，其中組內(nèi)發(fā)生數(shù)據(jù)相關(guān)一次，組間切換時(shí)發(fā)生數(shù)據(jù)相關(guān)一次。優(yōu)點(diǎn)：減少訪問主存儲(chǔ)器的次數(shù)

例如：中間變量T不寫入主存儲(chǔ)器。第三十二頁，共四十五頁，2022年，8月28日第六章向量處理機(jī)6.1向量數(shù)據(jù)表示方式6.2向量處理機(jī)的結(jié)構(gòu)6.3向量處理方式6.4向量處理機(jī)的關(guān)鍵技術(shù)6.5向量處理機(jī)實(shí)例6.6

向量處理機(jī)的性能評價(jià)6.7向量處理機(jī)的發(fā)展第三十三頁，共四十五頁，2022年，8月28日6.4向量處理機(jī)的關(guān)鍵技術(shù)6.4.1向量與標(biāo)量性能的平衡6.4.2向量鏈接技術(shù)第三十四頁，共四十五頁，2022年，8月28日6.4.1向量與標(biāo)量性能的平衡實(shí)際的應(yīng)用問題中通常既有向量計(jì)算又有標(biāo)量計(jì)算，而且兩類計(jì)算有一定的比例向量平衡點(diǎn)(vectorbalancepoint)：

為了使向量硬件設(shè)備和標(biāo)量硬件設(shè)備的利用率相等，一個(gè)程序中向量代碼所占的百分比。關(guān)鍵問題是：希望向量硬件和標(biāo)量硬件都能夠充分利用，不要空閑。

例如：一個(gè)系統(tǒng)的向量運(yùn)算速度為90Mfolps，標(biāo)量運(yùn)算速度為10Mfolps。第三十五頁，共四十五頁，2022年，8月28日

如果程序的90％是向量運(yùn)算，10％是標(biāo)量運(yùn)算。則向量平衡點(diǎn)為0.9。硬件利用率最高。向量處理機(jī)的向量平衡點(diǎn)必須與用戶程序的向量化程度相匹配。IBM向量計(jì)算機(jī)的設(shè)計(jì)思想與上述方法不同，它維持較低的向量與標(biāo)量比例，定在3～5的范圍之間。這種做法能夠適應(yīng)通用應(yīng)用問題對標(biāo)量和向量處理要求。第三十六頁，共四十五頁，2022年，8月28日機(jī)器型號(hào)幾種超級(jí)計(jì)算機(jī)的向量性能和標(biāo)量性能FujitsuVP400CrayISCray2SCrayX-MPCrayY-MPHitachiS820NECSX2向量性能

Mflops標(biāo)量性能

Mflops向量平衡點(diǎn)85.09.80.90151.511.20.93143.313.10.92201.617.00.92737.317.80.98424.29.50.98207.16.60.97第三十七頁，共四十五頁，2022年，8月28日6.4.2向量鏈接技術(shù)1、向量指令的類型以CRAY-1向量處理機(jī)為例，有四類指令，兩種指令格式

(1)向量與向量操作， ViVjOPVk

(2)向量與標(biāo)量操作， ViSjOPVk

(3)向量取， Vi存儲(chǔ)器

(4)向量存， 存儲(chǔ)器

Vi第三十八頁，共四十五頁，2022年，8月28日CRAY向量處理機(jī)的指令格式ghijk4位3位3位3位3位g,h為操作碼，i為目的寄存器編號(hào)j,k為源寄存器編號(hào)ghijkg為操作碼，h為變址寄存器A的編號(hào)i為目的寄存器編號(hào)，j,k,m為形式地址m4位3位3位3位3位16位第三十九頁，共四十五頁，2022年，8月28日2、向量運(yùn)算中的相關(guān)和沖突向量運(yùn)算中的數(shù)據(jù)相關(guān)和功能部件沖突：

采用順序發(fā)射順序完成方式

(1)寫讀數(shù)據(jù)相關(guān)。

(2)讀讀數(shù)據(jù)相關(guān)，或向量寄存器沖突。

(3)運(yùn)算部件沖突。

V0V1＋V2 V0V1＋V2

V3V4×V5 V3V0×V4

(a)不相關(guān)的指令 (b)寫讀數(shù)據(jù)相關(guān)第四十頁，共四十五頁，2022年，8月28日 V0V1＋V2 V0V1＋V2

V3V4＋V5 V3V1×V4