一臺服務(wù)器，不管是物理機(jī)還是虛擬機(jī)，必不可少的就是內(nèi)存，內(nèi)存的性能又是如何來衡量呢。

1. 內(nèi)存與緩存

現(xiàn)在比較新的CPU一般都有三級緩存，L1 Cache（32KB-256KB），L2 Cache（128KB-2MB），L3 Cache（1M-32M）。緩存逐漸變大，CPU在取數(shù)據(jù)的時候，優(yōu)先從緩存去取數(shù)據(jù)，取不到才去內(nèi)存取數(shù)據(jù)。

2. 內(nèi)存與時延

顯然，越靠近CPU，取數(shù)據(jù)的速度越塊，通過LMBench進(jìn)行了讀數(shù)延遲的測試。

從上圖可以看出：

Intel（R） Xeon（R） Platinum 8163 CPU @ 2.50GHz 這款CPU的L1D Cache，L1I Cache為32KB，而L2 Cache為1M，L3為32M;

在對應(yīng)的Cache中，時延是穩(wěn)定的;

不同緩存的時延呈現(xiàn)指數(shù)級增長;

所以我們在寫業(yè)務(wù)代碼的時候，如果想要更快地提高效率，那么使得計算更加貼近CPU則可以獲取更好的性能。但是從上圖也可以看出，內(nèi)存的時延都是納秒為單位，而實際業(yè)務(wù)中都是毫秒為單位，優(yōu)化的重點應(yīng)該是那些以毫秒為單位的運算，而內(nèi)存時延優(yōu)化這塊則是長尾部分。

3. 內(nèi)存帶寬

內(nèi)存時延與緩存其實可謂是緊密相關(guān)，不理解透徹了，則可能測的是緩存時延。同樣測試內(nèi)存帶寬，如果不是正確的測試，則測的是緩存帶寬了。

為了了解內(nèi)存帶寬，有必要去了解下內(nèi)存與CPU的架構(gòu)，早期的CPU與內(nèi)存的架構(gòu)還需要經(jīng)過北橋總線，現(xiàn)在CPU與內(nèi)存直接已經(jīng)不需要北橋，直接通過CPU的內(nèi)存控制器（IMC）進(jìn)行內(nèi)存讀取操作：

那對應(yīng)的內(nèi)存帶寬是怎樣的呢？測試內(nèi)存帶寬有很多很多工具，linux下一般通過stream進(jìn)行測試。簡單介紹下stream的算法：

stream算法的原理從上圖可以看出非常簡單：某個內(nèi)存塊之間的數(shù)據(jù)讀取出來，經(jīng)過簡單的運算放入另一個內(nèi)存塊。那所謂的內(nèi)存帶寬：內(nèi)存帶寬=搬運的內(nèi)存大小/耗時。通過整機(jī)合理的測試，可以測出來內(nèi)存控制器的帶寬。下圖是某云產(chǎn)品的內(nèi)存帶寬數(shù)據(jù)：

Function Best Rate MB/s Avg time Min time Max time Copy： 128728.5 0.134157 0.133458 0.136076 Scale： 128656.4 0.134349 0.133533 0.137638 Add： 144763.0 0.178851 0.178014 0.181158 Triad： 144779.8 0.178717 0.177993 0.180214

內(nèi)存帶寬的重要性自然不言而喻，這意味著操作內(nèi)存的最大數(shù)據(jù)吞吐量。但是正確合理的測試非常重要，有幾個注意事項需要關(guān)注：

內(nèi)存數(shù)組大小的設(shè)置，必須要遠(yuǎn)大于L3 Cache的大小，否則就是測試緩存的吞吐性能;

CPU數(shù)目很有關(guān)系，一般來說，一兩個核的計算能力，是遠(yuǎn)遠(yuǎn)到不了內(nèi)存帶寬的，整機(jī)的CPU全部運行起來，才可以有效地測試內(nèi)存帶寬。當(dāng)然跑單核的stream測試也有意義，可以測試內(nèi)存的延時。

4. 其他

內(nèi)存與NUMA的關(guān)系：開啟NUMA，可以有效地提供內(nèi)存的吞吐性能，降低內(nèi)存時延。

stream算法的編譯方法選擇：通過icc編譯，可以有效地提供內(nèi)存帶寬性能分。原因是Intel優(yōu)化了CPU的指令，通過指令向量化和指令Prefetch操作，加速了數(shù)據(jù)的讀寫操作以及指令操作。當(dāng)然其他C代碼都可以通過icc編譯的方法，提供指令的效率。