從PC時(shí)代走向移動(dòng)與AI時(shí)代，芯片的架構(gòu)也從以CPU為中心走向了以數(shù)據(jù)為中心。AI帶來(lái)的考驗(yàn)不僅包括芯片算力，也包括內(nèi)存帶寬?？v使DDR和GDDR速率較高，在不少AI算法和神經(jīng)網(wǎng)絡(luò)上，卻屢屢遇上內(nèi)存帶寬上的限制，主打大帶寬的HBM也就順勢(shì)成了數(shù)據(jù)中心、HPC等高性能芯片中首選的DRAM方案。

當(dāng)下JEDEC還沒(méi)有給出HBM3標(biāo)準(zhǔn)的最終定稿，但參與了標(biāo)準(zhǔn)制定工作的IP廠(chǎng)商們已經(jīng)紛紛做好了準(zhǔn)備工作。不久前，Rambus就率先公布了支持HBM3的內(nèi)存子系統(tǒng)，近日，新思科技也公布了業(yè)界首個(gè)完整HBM3 IP與驗(yàn)證方案。

IP廠(chǎng)商先行

早在今年初，SK海力士就對(duì)HBM3內(nèi)存產(chǎn)品的性能給出了前瞻，稱(chēng)其帶寬大于665 GB/s，I/O速度大于5.2Gbps，不過(guò)這只是一個(gè)過(guò)渡的性能。同在今年，IP廠(chǎng)商公布的數(shù)據(jù)進(jìn)一步拉高了上限。比如Rambus公布HBM3內(nèi)存子系統(tǒng)中，I/O速度高達(dá)8.4Gbps，內(nèi)存帶寬最高可至1.075TB/s。

今年6月，臺(tái)灣創(chuàng)意電子發(fā)布了基于臺(tái)積電CoWoS技術(shù)的AI/HPC/網(wǎng)絡(luò)平臺(tái)，搭載了的HBM3控制器與PHY IP，I/O速度最高達(dá)到7.2Gbps。創(chuàng)意電子還在申請(qǐng)一項(xiàng)中介層布線(xiàn)專(zhuān)利，支持任何角度的鋸齒形布線(xiàn)，可將HBM3 IP拆分至兩個(gè)SoC上使用。

新思科技公布的完整HBM3 IP方案為2.5D多晶片封裝系統(tǒng)提供了控制器、PHY和驗(yàn)證IP，稱(chēng)設(shè)計(jì)者可在SoC中用到低功耗更大帶寬的內(nèi)存。新思的DesignWare HBM3控制器與PHY IP基于經(jīng)芯片驗(yàn)證過(guò)的HBM2E IP打造，而HBM3 PHY IP基于5nm制程打造，每個(gè)引腳的速率可達(dá)7200 Mbps，內(nèi)存帶寬最高可提升至921GB/s。

封裝加成

以上還只是單層HBM的數(shù)據(jù)，通過(guò)2.5D封裝堆疊2層或者4層后，內(nèi)存帶寬也將成倍突破。以英偉達(dá)的A100加速器為例，英偉達(dá)首發(fā)的80GB版本采用了4層HBM2達(dá)到了1.6TB/s的帶寬，之后推出了5層HBM2E的版本，進(jìn)一步將帶寬提高至2TB/s。而這樣的帶寬表現(xiàn)，只需2層HBM3即可實(shí)現(xiàn)，四五層的配置更是遠(yuǎn)超市面上已有的內(nèi)存規(guī)格。

此外，邏輯+HBM的方法已經(jīng)不新鮮了，已經(jīng)有不少GPU和服務(wù)器芯片都采用了類(lèi)似的設(shè)計(jì)。然而隨著晶圓廠(chǎng)不斷在2.5D封裝技術(shù)上發(fā)力，單個(gè)芯片上HBM的數(shù)量也在增加。比如上文中提到的臺(tái)積電CoWoS技術(shù)，可在SoC芯片中集成4個(gè)以上的HBM，英偉達(dá)的P100就集成了4個(gè)HBM2，而NEC的Sx-Aurora向量處理器則集成了6個(gè)HBM2。

三星也在開(kāi)發(fā)下一代的I-Cube 2.5D封裝技術(shù)，除了支持集成4到6個(gè)HBM以外，也在開(kāi)發(fā)兩個(gè)邏輯晶片+8個(gè)HBM的I-Cube 8方案。類(lèi)似的2.5D封裝技術(shù)還有英特爾的EMIB，但不過(guò)HBM主要用于其Agilex FPGA。

結(jié)語(yǔ)

目前美光、三星、SK海力士等內(nèi)存廠(chǎng)商都已經(jīng)在紛紛跟進(jìn)這一新的DRAM標(biāo)準(zhǔn)，SoC設(shè)計(jì)廠(chǎng)商Socionext與新思合作，在其多晶片的設(shè)計(jì)中引入HBM3，除了必定支持的x86架構(gòu)外，Arm的Neoverse N2平臺(tái)也已計(jì)劃了對(duì)HBM3的支持，SiFive的RISC-V SoC也加入了HBM3 IP。但即便JEDEC沒(méi)有“卡殼”，在年末的關(guān)頭發(fā)布了HBM3正式標(biāo)準(zhǔn)，我們也可能要等到2022年下半年才能見(jiàn)到HBM3相關(guān)產(chǎn)品的面世。

大家都已經(jīng)在不少高性能芯片上見(jiàn)到了HBM2/2E的身影，尤其是數(shù)據(jù)中心應(yīng)用，比如英偉達(dá)的Tesla P100/V100、AMD的Radeon Instinct MI25、英特爾的Nervana神經(jīng)網(wǎng)絡(luò)處理器以及谷歌的TPU v2等等。

消費(fèi)級(jí)應(yīng)用卻似乎正在與HBM漸行漸遠(yuǎn)，過(guò)去還有AMD的Radeon RxVega64/Vega 56以及英特爾的KabyLake-G這樣利用了HBM的圖形產(chǎn)品，再高一級(jí)也有英偉達(dá)的Quaddro GP100/GV100和AMD的Radeon Pro WX這樣的專(zhuān)業(yè)繪圖GPU。

如今這些產(chǎn)品都用回了GDDR DRAM，畢竟消費(fèi)級(jí)應(yīng)用目前尚未出現(xiàn)帶寬瓶頸，速率和成本反倒才是芯片制造商最看重的，而HBM3在優(yōu)點(diǎn)上提及了更大帶寬更高的功效，卻并沒(méi)有降低成本。