IBM-UNIX服務(wù)器的技術(shù)優(yōu)勢VIP

IBMUNIX效勞器的技術(shù)優(yōu)勢業(yè)務(wù)支持中心(BSC)編輯整理IBMUNIX效勞器的技術(shù)優(yōu)勢上海天璣科技有限責(zé)任公司2008-04-08內(nèi)部資料，未經(jīng)許可不得擴(kuò)散第6頁共7頁最近傳來一個喜訊：IBMp690效勞器〔32路CPU〕打破了HPSuperdome效勞器〔64路CPU〕新近創(chuàng)造的單機(jī)TPC/C記錄，再一次創(chuàng)造了業(yè)界單機(jī)最高的TPC/C記錄值680613tpmC。從S80效勞器開始，IBM的UNIX效勞器〔p系列效勞器〕一直不斷的創(chuàng)造業(yè)界新的TPC/C記錄〔當(dāng)然也同時保持著一些其它的基準(zhǔn)測試記錄〕。為什么IBM的p系列效勞器能以少勝多─IBM32路CPU效勞器的處理能力超過其它廠家64路CPU效勞器的處理能力！這是因為IBM在技術(shù)的研發(fā)上有高人一籌的地方：既注重CPU半導(dǎo)體技術(shù)的研發(fā)和CPU技術(shù)的設(shè)計，也注重效勞器體系結(jié)構(gòu)的設(shè)計。本文主要討論IBMp系列效勞器體系結(jié)構(gòu)與其它廠商的高端效勞器所采用的MBB體系結(jié)構(gòu)的區(qū)別。從中我們可以了解到為什么其它廠商的UNIX效勞器雖然有更多的CPU卻達(dá)不到所期望的更高性能。3.MBB結(jié)構(gòu)的缺陷4.以POWER4為芯片的IBMUNIX效勞器的設(shè)計5.關(guān)于IBMUNIX效勞器上的一些"限制"6.結(jié)束語1.什么是MBB結(jié)構(gòu)MBB的全稱是ModularBuildingBlock，每個BB〔BuildingBlock〕可包含4路CPU，假設(shè)干內(nèi)存和I/O卡。在Sun效勞器上稱BB為board；在HP效勞器上稱BB為cell；在原先的Compaq效勞器上稱BB為quad。不同BB內(nèi)的CPU可以有不同的時鐘頻率。所有的BB通過一種稱為crossbarswitch的交換機(jī)制連接在一起。crossbarswitch可以提供BB之間的點對點的高速連接。采用MBB技術(shù)可以比較容易的設(shè)計出擁有更多數(shù)量CPU的效勞器。在這種效勞業(yè)務(wù)支持中心(BSC)編輯整理IBMUNIX效勞器的技術(shù)優(yōu)勢上海天璣科技有限責(zé)任公司2008-04-08內(nèi)部資料，未經(jīng)許可不得擴(kuò)散第6頁共7頁器上既可以運行一個操作系統(tǒng)，也可以在一個或多個BB上運行多個操作系統(tǒng)。這就是所謂的效勞器〔基于物理分區(qū)〕的邏輯分區(qū)。MBB技術(shù)從出現(xiàn)到現(xiàn)在已經(jīng)超過十年了，最早是由Sequent(NumaQ)公司在八十年代末到九十年代初時創(chuàng)造并采用的。Cray公司在九十年代初時在它的Cray6400上采用了MBB技術(shù)，該機(jī)型是SunE10000的前身；Compaq公司在2000年一季度發(fā)布了它的基于MBB技術(shù)的機(jī)型Wildfire(GS320)；HP公司發(fā)布了業(yè)界最后一款基于MBB技術(shù)的機(jī)型Superdome，那是在2000年三季度。Sun公司在2001年三季度發(fā)布的Starfire(F15K)在體系結(jié)構(gòu)上并無變化，只是將原來E10000上的CPU換成了SPARC3而已。2.MBB結(jié)構(gòu)的優(yōu)點基于MBB技術(shù)的效勞器是由多個BB構(gòu)成的，所以它天生具有物理分區(qū)〔PhysicalPartition〕的特性。前面提到在MBB效勞器上存在一個連接BB的互連機(jī)制〔crossbarswitch〕，它工作在一個固定的時鐘頻率上。例如，在Sunfire效勞器上的Uniboard機(jī)制就是完成這種互連功能的。其總線時鐘是150MHz，不管CPU的主頻是多少〔600，750，900，1050MHz〕，它是固定不變的。所帶來的問題是數(shù)據(jù)／指令被傳送出去的等待時間過長。這是典型的高CPU時鐘頻率和低總線速度的矛盾。所有的MBB結(jié)構(gòu)的效勞器都具有一個"顯著"的優(yōu)勢：可以熱插拔CPU板和內(nèi)存板。這是因為每一個BB是物理分開的，每個4路CPU板可以單獨從系統(tǒng)中隔離出來并將其下電。但有一點需要注意：在一個運行的系統(tǒng)中，從一個BB中拔出CPU、內(nèi)存或I/O板是有限制的，這基于每個機(jī)型的設(shè)計不同而不同。例如，Sun6800效勞器就有一個警告標(biāo)簽，其注明每個Uniboard槽在系統(tǒng)運行時空槽位的時間不能超過60秒〔而且電源、溫度等環(huán)境因素必須控制在一定的范圍內(nèi)〕。由此推斷，F(xiàn)12K／F15K可能時間會更短。業(yè)務(wù)支持中心(BSC)編輯整理IBMUNIX效勞器的技術(shù)優(yōu)勢上海天璣科技有限責(zé)任公司2008-04-08內(nèi)部資料，未經(jīng)許可不得擴(kuò)散第6頁共7頁3.MBB結(jié)構(gòu)的缺陷HP公司當(dāng)初發(fā)布Superdome效勞器時，曾公布了它與HP其它UNIX效勞器的相對性能值。64路CPU的Superdome〔MBB結(jié)構(gòu)〕的相對性能值是20，8路N4000〔共享結(jié)構(gòu)〕的相對性能值是6.3。我們可以看到，8倍數(shù)量的CPU換來的只是3倍性能的提升。造成這種現(xiàn)象的根本原因就在MBB結(jié)構(gòu)上。Superdome上的每個cell〔BB〕里的CPU、內(nèi)存或I/O卡可能需要訪問其它cell里的數(shù)據(jù)。crossbarswitch在cell之間建立點對點的連接，但同時帶來延遲〔latency〕。即如果一個連接請求建立不成功時，那么會再試一次直到建立連接成功，而此時其它的連接請求將會等待。在實際環(huán)境中，很多客戶通過建立物理分區(qū)〔每個分區(qū)中最多12到16個CPU〕的方法來盡量減少這種延遲的影響。這種做法將原來CPU個數(shù)較多的機(jī)器分成了假設(shè)干個有較少CPU個數(shù)的機(jī)器，當(dāng)然也就不是原來宣稱的效勞器的擴(kuò)展性了〔例如具有64路CPU的效勞器〕。Sun和Compaq公司的具有MBB結(jié)構(gòu)的效勞器里都有類似的crossbarswitch結(jié)構(gòu)，當(dāng)然都存在相同的數(shù)據(jù)訪問延遲的缺陷：點對點的連接必須建立，同時這種連接的建立是競爭的。Sun公司宣稱其效勞器的擴(kuò)展性是線性的，即效勞器的性能隨著CPU個數(shù)的增加呈線性增長。它是用SPECintRate和SPECjbb2000這兩個基準(zhǔn)測試值來證明的。我們需要指出的是：這兩種測試方法只是基于CPU本身，并沒有共享數(shù)據(jù)的訪問和網(wǎng)絡(luò)及硬盤I/O的發(fā)生。很顯然，這與實際情況是不相符的。我們談效勞器的性能是整體的去看。有很多可以整體評價效勞器性能的基準(zhǔn)測試，例如：TPC/C、OracleASB11i、Peoplesoft、SAP、Baan、JDEdwards等。這些測試方法都具有數(shù)據(jù)庫訪問、模擬客戶的實際應(yīng)用和很大的I/O訪問量等特點。4.以POWER4為芯片的IBMUNIX效勞器的設(shè)計IBMUNIX〔p系列〕效勞業(yè)務(wù)支持中心(BSC)編輯整理IBMUNIX效勞器的技術(shù)優(yōu)勢上海天璣科技有限責(zé)任公司2008-04-08內(nèi)部資料，未經(jīng)許可不得擴(kuò)散第6頁共7頁器的設(shè)計思想是共享式的，即所有CPU可以同等的看到所有的內(nèi)存和I/O的連接方式：一種全新的為數(shù)據(jù)／指令流提供足夠的高速通路的體系結(jié)構(gòu)。p系列效勞器CPU數(shù)量的增加是一個成比例漸進(jìn)的過程。目前p690上的最大CPU個數(shù)是32路。從p690"以少勝多"的實例來看，效勞器CPU數(shù)量的多少并不真正代表其處理能力的上下。P690〔32路CPU〕勝過Superdome〔64路CPU〕就是一個有力的證明。POWER4和以POWER4為芯片的效勞器在設(shè)計上有兩個重要點：·消除對數(shù)據(jù)傳送的約束·數(shù)據(jù)傳送能力是隨著CPU性能的增長而增長下面將比較詳細(xì)的做一介紹：(1)在POWER4芯片上設(shè)計了較大的緩沖區(qū)。一個POWER4芯片〔chip〕上有兩個核心處理器，每個核心處理器有一個L1緩沖器〔32KB數(shù)據(jù)和64KB指令〕，并且每個芯片上有一個共享的L2緩沖器〔1.5MB〕。這個L2緩沖器的時鐘頻率是核心處理器的一半。每個L2緩沖器有三個32字節(jié)寬的總線與兩個核心處理器相連，用于向兩個核心處理器傳送指令和數(shù)據(jù)。另外還有三條8字節(jié)寬的總線用于從兩個核心處理器回傳數(shù)據(jù)給L2緩沖器。POWER4創(chuàng)造了第一個消除了控制信號和數(shù)據(jù)傳送沖突的CPU結(jié)構(gòu)。POWER4處理器有一個L3緩沖器控制器，它是與32MB大小的L3緩沖器的接口。在業(yè)界有一種說法：任何I/O都是不好的，即CPU運行時所需的數(shù)據(jù)不在內(nèi)存里，需要從外設(shè)中讀入。最理想的狀態(tài)是處理器運行時所需要的指令/數(shù)據(jù)全都滿足，其次是指令/數(shù)據(jù)在L1緩沖器中，再其次是在L2緩沖器中，再其次是在L3緩沖器中，最差的情況是在內(nèi)存里。p系列效勞器上的緩沖區(qū)總數(shù)量是Sun效勞器的四倍，是HP效勞器的十五倍。(2)在POWER4的設(shè)計中存在一個稱作分布式交換器〔distributedswitch〕的連接機(jī)制。它提供在一個MCM〔Multi-ChipModule〕上的處理器之間的點對點的連接，也用于在不同的MCM上的處理器之間的點對點的連接。這個分布式交換器的時鐘頻率是CPU的時鐘頻率的一半。例如，如果是1.3GHzPOWER4的處理器，那么分布式交換器提供16字節(jié)寬、時鐘是650MHz的點對點總線連接。IBM目前提供給UNIX市場的效勞器，真正實現(xiàn)了CPU處理能力和效勞器處理能力的線性增長。業(yè)務(wù)支持中心(BSC)編輯整理IBMUNIX效勞器的技術(shù)優(yōu)勢上海天璣科技有限責(zé)任公司2008-04-08內(nèi)部資料，未經(jīng)許可不得擴(kuò)散第6頁共7頁5.關(guān)于IBMUNIX效勞器上的一些"限制"IBM在其UNIX效勞器〔p系列〕的設(shè)計上沒有采用MBB的設(shè)計結(jié)構(gòu)，所以在p系列機(jī)器上不支持物理分區(qū)。IBM沿用了大主機(jī)S390上的邏輯分區(qū)〔LPAR〕設(shè)計思想，即設(shè)計一個hypervisor〔系統(tǒng)管理程序〕，它能看到所有的真實資源〔CPU、內(nèi)存和I/O卡〕，并且通過一個控制臺〔HMC〕來管理邏輯分區(qū)。通過HMC將上述提到的資源定義到不同的邏輯分區(qū)中去，每個邏輯分區(qū)所需的最小資源是一個CPU、1GB內(nèi)存和一個PCI插槽。IBM沒用象其它廠商那樣采用crossbarswitch技術(shù)做CPU之間的連接。在p系列效勞器上所有的CPU能夠看到所有的內(nèi)存和I/O資源，它不允許不同主頻的CPU共存在同一臺機(jī)器內(nèi)。而MBB結(jié)構(gòu)的效勞器那么允許這樣做，其代價就是crossbarswitch工作在相同的帶寬上〔MBB之間的連接帶寬恒定〕，所以高主頻CPU帶來的效勞器整體性能提升是有限的。在p系列效勞器上，如果升級CPU那么必須更換整個CPU板，其優(yōu)點是CPU主頻和系統(tǒng)總線帶寬同時得到提升，保證更高主頻的CPU帶來更高的效勞器性能。由于沒有采用MBB的設(shè)計結(jié)構(gòu)，所以在p系列效勞器上不支持熱插拔CPU板和內(nèi)存板。"熱插拔"這個設(shè)計思想的目的是為了方便系統(tǒng)維護(hù)，即更換效勞器失效部件時不需停機(jī)，以減少方案內(nèi)停機(jī)時間、提高系統(tǒng)的可用性〔availability〕。關(guān)于系統(tǒng)可用性方面，IBM的設(shè)計思想是：在關(guān)鍵性部件〔如CPU，內(nèi)存等〕出現(xiàn)硬件故障時，系統(tǒng)能自動隔離失效部件并且繼續(xù)運行。主要包括如下三個方面的內(nèi)容：·選用高質(zhì)量的材料，制造高質(zhì)量的部件，提供更高的可靠性。·IBM創(chuàng)造的自診斷技術(shù)FFDC〔FirstFailureDataCapture〕能夠做到早發(fā)現(xiàn)故障〔例如在p690上就設(shè)計有5600多個觀察點〕，并能自動隔離失效部件。目前在p系列效勞器上能做到自動隔離失效的CPU、L2/L3緩沖器、PCI總線、PCI卡和LPAR〔邏輯分區(qū)〕等，使系統(tǒng)能夠繼續(xù)運行?！た蛻粼诜桨竷?nèi)的停機(jī)維護(hù)時間里，可以很快的修復(fù)失效部件。據(jù)研究說明方案內(nèi)的停機(jī)是有代價的〔對客戶來講有些損失〕，但非方案內(nèi)停機(jī)所帶來的損失那么是幾業(yè)務(wù)支持中心(BSC)編輯整理IBMUNIX效勞器的技術(shù)優(yōu)勢上海天璣科技有限責(zé)任公司2008-04-08內(nèi)部資料，未經(jīng)許可不得擴(kuò)散第6頁共7頁何級數(shù)量的。采用MBB結(jié)構(gòu)效勞器的廠商聲稱熱插拔CPU/內(nèi)存的功能可減少方案內(nèi)的停機(jī)時間，但其效勞器有限的自診斷和自隔離功能將增加非方案