丨經(jīng)驗總結(jié)必須熟記的一組常用性能數(shù)字

知道這里面有性能問題。反之，如果硬盤IO讀寫延遲小于1毫秒，我們可以馬上——這些IO讀寫并沒有到達(dá)硬盤那里，是作系統(tǒng)緩存擋住了。這就是大家常說的“對比如傳統(tǒng)硬盤的IO遲，如果我冠冕堂皇地說：“IO遲的大小取決于很多因素，比如硬盤型號、IO大小、隨機還是連續(xù)、磁頭離數(shù)據(jù)的遠(yuǎn)近等，從小于1毫米到幾秒鐘不境下的性能數(shù)據(jù)有所感覺。你要更加注重它們之間的量級比較，比如SSD的隨機IOPS的性能，可以輕松地達(dá)到普通硬盤HDD的1000倍以上。因為市場上有很多種類和很多廠家的產(chǎn)品，具體的值都不一樣，比如SSD一些性能指因為每個具體場景都不同，比如IO的讀寫大小。還有就是我們的技術(shù)不斷進(jìn)步，就如CPU的頻率，具體的值是一直在變這些性能數(shù)據(jù)多半和延遲有關(guān)，所以要弄清楚這些延遲的單位。你應(yīng)該都知道，一1000（ms），一毫秒是1000（us），一微秒是1000（ns）我們先看相關(guān)的性能數(shù)據(jù)。有很多種，常用的是傳統(tǒng)硬盤（,drive）和固態(tài)硬盤（,odteriv）。硬盤的廠家和產(chǎn)品多種多樣，而且具體的配置也有很多種，比如大家熟悉的磁盤陣列（RAID)值得一說的是SSD。最近幾年，SSD的技術(shù)發(fā)展和市場演化非常迅速。隨著市場規(guī)模的增大和技術(shù)的進(jìn)步，SSD的價格已經(jīng)極大地降低了。在很多大規(guī)模的系統(tǒng)中，SSDSSD類很多，按照技術(shù)來說有單層（SLC）和多層（MLC，TLC）。按照質(zhì)量和性能來分，有企業(yè)級和普通級。根據(jù)安裝的接口和協(xié)議來分，有SAS、SATA、PCIe和NVMe等。對所有的來說，有三個基本的性能指標(biāo)IO讀寫延遲。一般是用4KB大小的IO做基準(zhǔn)來測試IO帶寬，一般是針對比較大的IO而言IOPS，就是每秒鐘可以讀寫多少個小的隨機IO。我們這里考慮三種情況：傳統(tǒng)硬盤，SATASSD和NVMeSSD。你可以看到，一般傳統(tǒng)硬盤的隨機IO讀寫延遲是8毫秒的樣子，IO帶寬大約100MB每秒，而隨機IO讀寫一般就是每秒100出頭。SSD的隨機IO延遲比傳統(tǒng)硬盤快百倍以上，IO帶寬也高很多倍，隨機IOPS更是快了上CPU再來看看CPU。說起CPU相關(guān)的性能數(shù)字，就必須先說CPU的時鐘頻率，也就是主頻。主頻反映了CPU工作節(jié)拍，也就直接決定了CPU周期大小。主頻和周期大小。比如基于英特爾Skylake微處理器架構(gòu)的i7的一款，其主頻為4GHz，那么每一個時鐘周期（Cycle）大約0.25納秒（ns）。CPU運行程序時，最基本的執(zhí)行單位是指令。而每一條指令的執(zhí)行都需要經(jīng)過四步：指令獲取、指令、指令執(zhí)行、數(shù)據(jù)存入。這些操作都是按照CPU周期來進(jìn)行的，一般需要CPI和每個指令周期數(shù)CPI和每個周期指令數(shù)IPC其實是孿生兄弟，衡量的是同一個東西CPI（cyclesperinstruction）衡量平均每條指令的平均時鐘周期個數(shù)。它的是（instructionspercycle）。雖然一個指令的執(zhí)行過程需要多個周期，但I(xiàn)PC可以大于1的，因為現(xiàn)代CPU都采用流水線結(jié)構(gòu)。一般來講，測量應(yīng)用程序運行時的IPC，如果低于1，這個運行的系統(tǒng)性能就不是太好，需要做些優(yōu)化來提高IPC。MIPS就是每秒執(zhí)行的百萬指令數(shù)我們經(jīng)常會需要比較不同CPU件的性能，MIPS是一個很好的指標(biāo)，一般來講，MIPS越高，CPU性能越高。MIPS可以通過主頻和IPC相乘得到，也就是說MIPS=主頻×IPC。這個很容易理解，比如一個CPU頻率再高，IPC是0的話，性能就是0。假設(shè)一CPU主頻是4GHz，IPC1，那么CPUMIPS是4000。注意的是理論值，實際運行環(huán)境數(shù)量一般小于這個值CPU一般CPU都有幾級緩存，分別稱為L1、L2、L3，按這個順序越來越慢，也越來越大，當(dāng)然成本也越來越低。L3候也稱為LLC（LastLevelCache），L3常是最后一級緩存。多核CPU的情況下，一般L1和L2在核上，而L3是各個核共享的。我用下面的表格來表示一款2GHz主頻的CPU，進(jìn)行寄存器和緩存的一般延遲，分別用時鐘周期數(shù)和絕對時間來表示，同時也給出在每個CPU核上面的字節(jié)大小。重復(fù)一下，數(shù)字參考，因為每款CPU都不同。比如一般L3的需要40個時鐘周期，2GHz主頻的話就是20納秒，大小一般是每個核平均下來2MB的樣子。為了方便對比，我們把內(nèi)存的性能也放在同一個表格值得一提的是現(xiàn)在的NUMA（非統(tǒng)一內(nèi)存，Non-UniformMemoryAccess）處理器指令分支延CPUCPU通常會采取提前指令分支判斷錯誤（Branchspredt）的時間代價是很昂貴的。如果判斷預(yù)測正確，可能只需要一個時鐘周期；如果判斷錯誤，就需要十幾個時鐘周期來重新提取指令，這個延遲10納秒左右。互斥加Mtx（也叫）是在多線程中用來同步的，可以保證沒有兩個線程同時運行在受保護的關(guān)鍵區(qū)域。使用互斥鎖的時候需要加鎖和，都是時間很昂貴的操作，每個操作一般需要幾十個時鐘周期，10納秒以上。上下文多個進(jìn)程或線程共享CPU的時候，就需要經(jīng)常做上下文切換（Contextswitch）。這種切換在CPU時間和緩存上都很大代價；尤其是進(jìn)程切換。在時間上，上下文切換可能需要幾千個時鐘周期，1微秒（1us）級別。在緩存代價上，多級CPU緩存和TLB緩存都需要恢互聯(lián)網(wǎng)服務(wù)最終是要面向終端客戶的，客戶和服務(wù)器的延遲對用戶的服務(wù)體驗至是每毫秒200公里左右。如果考慮往返時間（RTT，RoundTripTime），那么可以大致說每100公里就需要一毫秒。到約2,000公里，RTT就是20毫秒；到烏魯木齊或者的東西海岸之間距離差不多4,000公里，所以RTT是40毫秒左右；中國到（比如到西海岸舊金山）差不多10,000公里，RTT就是100毫秒。在數(shù)據(jù)中心里面，一般的RTT超過半毫秒。如果是同一個機柜里面的兩臺主機之間，那么延遲就更小了，小于0.1毫秒。如果光纖網(wǎng)絡(luò)繞路的話，那么實際的RTT會超過以上估算數(shù)值。另外要注意的是，傳輸延遲也取決于傳輸數(shù)據(jù)的大小，因為各種網(wǎng)絡(luò)協(xié)議都是按照數(shù)據(jù)包來傳輸?shù)?，包的大小會有影響。比如一個KB大小的數(shù)據(jù)，用Gbps2下面這個表格就總結(jié)了幾種環(huán)境下的端到端的距離和RTT宋代詩人蘇軾曾經(jīng)作詩夸獎朋友：“前身子美只君是，信手拈來俱天成”，這里的“假設(shè)公司有個互聯(lián)網(wǎng)服務(wù)要上線，服務(wù)的要求是，用戶端到端響應(yīng)時間過40毫 科技所有 不 售賣。頁面已增加防盜追蹤，將依 上一 07|性能數(shù)據(jù)的展示：一圖勝千言，說出你的數(shù)據(jù)故下一 09|性能測試的種類：如何快準(zhǔn)狠地抓住一個測試的本質(zhì)寫精選留言寫Q我覺得有點 8008ms應(yīng)用處理耗時(接口調(diào)用、內(nèi)部函數(shù)處理、DB查詢處 展2到按800公里算，傳輸耗時16毫秒，如果客戶端網(wǎng)絡(luò)2