云計算中的HPC高性能計算

1、背景：O云計算的優(yōu)勢共享的計算設備多租戶的使用模型可高度適配的資源分配O按需定 制的HPC環(huán)境開始流行挑戰(zhàn)O虛擬化的開銷CPU,內存，驅動等O通信網(wǎng)絡的區(qū)別萬兆以太網(wǎng)vs. InfinibandO并行IO的配置選項設備，文件系統(tǒng)和IO庫的選擇CCI: Amazon的HPC解決方案傳統(tǒng)云計算平臺(EC2)集群云計算平臺(CCI)成千上萬的服務器，分布在全球大約1000臺左右集中部署的服務器低端的，共享的處理器高端的計算用處理器千兆以太網(wǎng)，網(wǎng)絡競爭嚴重非阻塞的萬兆以太網(wǎng)每個服務器多個虛擬機每個服務器一個虛擬機類虛擬化硬件虛擬化任意的虛擬機放置策略放置組每個虛擬機實例每小時$0.085-$2.40每

2、個虛擬機實例每小時$1.60虛擬化對HPC的影響O 虛擬設備和物理設備有巨大的性能差別O虛擬機并沒有引入很大的開銷對于直接分配給客戶機的千兆網(wǎng)卡結論如此，我們正在研究萬兆網(wǎng)卡和IB 網(wǎng)卡的性能結果 性能評價結論O 本地集群在通信上有巨大優(yōu)勢O對于CPU和內存密集型程序，CCI的性能和本地集群相似O究竟使用云還是本地集群，需要研究二者的性價比I/O系統(tǒng)的可配置性：背景O I/O是很多高性能應用程序的性能瓶頸應用程序的讀寫密集和并發(fā)度差別較大傳統(tǒng)高性能平臺只提供通用的、統(tǒng)一的I/O系統(tǒng)O 一些高性能程序開始考慮向云計算平臺遷移O云計算平臺可以帶來I/O系統(tǒng)的高可配性完全受控的虛擬機環(huán)境，自定義配置

3、成為可能彈性的資源申請和方便的部署方式可選多種存儲資源進行搭配O I/O系統(tǒng)的可配置性在于可以在虛擬集群上選擇不同的文件系統(tǒng)可以利用多種底層存儲設備進行組合可以充分調節(jié)文件系統(tǒng)參數(shù)，專門為特定的某一個高性能應用程序進行配置O I/O系統(tǒng)可配置性的挑戰(zhàn)最優(yōu)配置需要根據(jù)不同應用程序進行選擇需要平衡性能和總成本I/O系統(tǒng)的可配置性：文件系統(tǒng)O網(wǎng)絡文件系統(tǒng)(NFS)使用簡單，只有POSIX系統(tǒng)調用接口對I/O需求較低的應用程序已經(jīng)足夠存在單點瓶頸，擴展性差O 并行文件系統(tǒng)(如PVFS)MPI-IO接口，對并行讀寫支持良好可以使用更多的IO節(jié)點，擴展性好I/O系統(tǒng)的可配置性：存儲設備、O單實例臨時存儲設

4、備(Ephemeral)塊設備，每節(jié)點2*800 GB,非持久化存儲O彈性塊設備(EBS)每個實例可掛載任意多塊，可跨實例掛載持久化，生命期與虛擬機實例無關O云端數(shù)據(jù)庫存儲服務(S3)鍵值存儲，面向數(shù)據(jù)庫和互聯(lián)網(wǎng)應用I/O系統(tǒng)的可配置性：文件系統(tǒng)參數(shù)參數(shù)描述服務器端同步模式NFS可以在服務器端在異步模式下服務客戶端請求設備數(shù)目將多塊磁盤做成軟RAID0，提高讀寫帶寬I/O服務器數(shù)目并行文件系統(tǒng)可以米用多個I/O服務器并行工作元數(shù)據(jù)服務器數(shù)目 元數(shù)據(jù)服務器數(shù)目可以調節(jié)，滿足海量小文件需求元數(shù)據(jù)服務器分布元數(shù)據(jù)服務器可以和I/O服務器復用，或獨立存放I/O服務器分布可以在I/O服務器上部署計算任務，提高利用率數(shù)據(jù)分布條帶化參數(shù)，數(shù)據(jù)塊大小等10. I/O系統(tǒng)的可配置性：結論O 針對不同的HPC應用配置I/O系統(tǒng)很有必要 不同HPC應用對I/O的需求不一樣性能和價格需要折中O I/O配置的挑戰(zhàn)應用的I/O行為決定了系統(tǒng)參數(shù)的選擇領域專家對文件系統(tǒng)知識缺乏，缺少經(jīng)驗O自動化的IO優(yōu)化配置是有實際意義的11.結論O高端處理器讓HPC的云計算變得更加現(xiàn)實虛擬化的低開銷可以忍受對于計算密集型的HP