9月3日至4日，2024開(kāi)放數(shù)據(jù)中心大會(huì)（以下簡(jiǎn)稱“ODCC”）在北京召開(kāi)。江波龍企業(yè)級(jí)存儲(chǔ)事業(yè)部市場(chǎng)總監(jiān)曹潯峰受邀出席，并發(fā)表了題為《大模型AI應(yīng)用對(duì)存力挑戰(zhàn)與創(chuàng)新實(shí)踐》的精彩演講，深入剖析了當(dāng)前算力產(chǎn)業(yè)的發(fā)展趨勢(shì)及其創(chuàng)新應(yīng)用，并探討了在PTM（存儲(chǔ)產(chǎn)品技術(shù)制造）商業(yè)模式下如何有效滿足客戶需求的問(wèn)題。

ODCC 2024

PTM商業(yè)模式

企業(yè)級(jí)存儲(chǔ)全棧定制

PTM商業(yè)模式

PTM商業(yè)模式的核心在于將公司的自研存儲(chǔ)控制芯片、自研固件和硬件以及自有的先進(jìn)封測(cè)制造等技術(shù)優(yōu)勢(shì)進(jìn)行無(wú)縫銜接，實(shí)現(xiàn)更靈活、高效的全棧式定制化服務(wù)和一站式交付。

存儲(chǔ)全棧式定制服務(wù)就像高級(jí)西裝的量身定制，每一細(xì)節(jié)都經(jīng)過(guò)一對(duì)一精心打造，確保每款產(chǎn)品方案“裁剪”出來(lái)都能貼合、匹配客戶的獨(dú)特需求。在提及江波龍最新提出的PTM商業(yè)模式時(shí)，曹潯峰表示，企業(yè)級(jí)存儲(chǔ)產(chǎn)品作為該模式下的重要組成部分，江波龍已經(jīng)成功打造了eSSD+RDIMM的全面產(chǎn)品矩陣，以滿足大模型AI應(yīng)用的存力需求。這包括一系列高性能的企業(yè)級(jí)PCIe 4.0 NVMe SSD、SATA SSD、DDR5/DDR4 RDIMM以及CXL 2.0內(nèi)存拓展模塊等標(biāo)準(zhǔn)產(chǎn)品。

在技術(shù)領(lǐng)域，江波龍擁有自主研發(fā)NAND Flash芯片、主控芯片、固件和硬件的能力，并采用多顆粒類型產(chǎn)品布局，能夠根據(jù)客戶的特定技術(shù)需求提供定制化的存儲(chǔ)解決方案。此外，江波龍匯聚了眾多行業(yè)資深專家，積累了豐富的技術(shù)經(jīng)驗(yàn)，特別是在顆粒研究、測(cè)試算法和設(shè)備開(kāi)發(fā)等方面，公司能夠深入分析NAND Flash和DRAM的特性，并與客戶預(yù)先確認(rèn)技術(shù)需求。通過(guò)建立專業(yè)、專項(xiàng)的FAE+AE+R&D團(tuán)隊(duì)，PTM商業(yè)模式能夠幫助企業(yè)級(jí)客戶高效實(shí)現(xiàn)產(chǎn)品創(chuàng)新和大幅成本優(yōu)化，從而提升客戶的業(yè)務(wù)競(jìng)爭(zhēng)力。

在制造方面，江波龍通過(guò)在中山存儲(chǔ)產(chǎn)業(yè)園、蘇州和南美洲封裝測(cè)試基地的國(guó)內(nèi)、海外雙循環(huán)產(chǎn)業(yè)鏈布局，實(shí)現(xiàn)了從存儲(chǔ)芯片到模組產(chǎn)品的全鏈條覆蓋。公司不僅保證了業(yè)內(nèi)領(lǐng)先的企業(yè)級(jí)生產(chǎn)產(chǎn)能，還實(shí)現(xiàn)了高效的全站點(diǎn)追溯能力，如同餐廳的開(kāi)放式廚房，確保每道工序都可視化、透明化，讓客戶對(duì)產(chǎn)品品質(zhì)和生產(chǎn)流程擁有更為清晰而直觀的了解。

以SATA SSD標(biāo)準(zhǔn)產(chǎn)品為例，如果客戶對(duì)其基本性能感到滿意，但需要更大容量的解決方案，并且希望在不犧牲產(chǎn)品特性的前提下實(shí)現(xiàn)成本效益，那么PTM（存儲(chǔ)產(chǎn)品技術(shù)制造）合作模式將是理想選擇。江波龍固件開(kāi)發(fā)團(tuán)隊(duì)能夠?yàn)榭蛻?strong>量身定制固件，以支持大容量規(guī)格和Wafer顆粒的導(dǎo)入。同時(shí)，封測(cè)制造基地也將按照具體要求進(jìn)行Wafer的封裝，確保滿足工藝規(guī)格和顆粒特性指標(biāo)，為客戶提供個(gè)性化且高效的存儲(chǔ)解決方案。

通過(guò)綜合措施，PTM商業(yè)模式實(shí)現(xiàn)了從技術(shù)到制造，再到產(chǎn)品的全方位支持，為客戶提供全棧式服務(wù)和一站式交付。

AI存力挑戰(zhàn)

新技術(shù)探索實(shí)踐

曹潯峰在演講中強(qiáng)調(diào)，隨著人工智能技術(shù)的飛速發(fā)展，AI訓(xùn)練過(guò)程中對(duì)緩存存儲(chǔ)容量和性能的需求日益增長(zhǎng)。他指出，盡管AI應(yīng)用日益復(fù)雜，但現(xiàn)有緩存硬件技術(shù)和產(chǎn)品的發(fā)展尚未跟上這一步伐，導(dǎo)致AI模型訓(xùn)練面臨性能瓶頸。對(duì)此，曹潯峰提出了一系列創(chuàng)新的解決方案，旨在突破數(shù)據(jù)緩存、傳輸和存儲(chǔ)的瓶頸。

在AI應(yīng)用實(shí)踐中，原始數(shù)據(jù)需經(jīng)過(guò)精細(xì)的清洗和預(yù)處理，轉(zhuǎn)化為高質(zhì)量的數(shù)據(jù)集，進(jìn)而通過(guò)網(wǎng)絡(luò)傳輸至AI服務(wù)器的本地SSD存儲(chǔ)，并最終upload至GPU HBM緩存中進(jìn)行訓(xùn)練。曹潯峰指出，隨著AI訓(xùn)練模型參數(shù)量的增長(zhǎng)，現(xiàn)有HBM緩存和系統(tǒng)內(nèi)存RDIMM容量已難以滿足需求。他提出，采用高性能、大容量的CXL存儲(chǔ)器或8x GPU卡AI服務(wù)器，將是理想的緩存優(yōu)化解決方案。

江波龍正積極探索支持AIC和E3.S的JBOM系統(tǒng)，并結(jié)合即將到來(lái)的支持CXL2.0的服務(wù)器系統(tǒng)，為萬(wàn)卡AI訓(xùn)練集群提供更具成本效益的內(nèi)存池化共享硬件解決方案。

曹潯峰還分享了對(duì)AI應(yīng)用數(shù)據(jù)存儲(chǔ)優(yōu)化的深刻見(jiàn)解。他提到，AI訓(xùn)練應(yīng)用主要涉及順序讀寫(xiě)操作，QLC SSD在順序讀寫(xiě)性能上與TLC相近，且成本更具優(yōu)勢(shì)。隨著PCIe Gen5帶寬的提升，QLC技術(shù)完全能夠滿足AI訓(xùn)練過(guò)程中Checkpoint數(shù)據(jù)存儲(chǔ)的高帶寬高并發(fā)需求，預(yù)示著QLC SSD有望成為大語(yǔ)言模型AI訓(xùn)練應(yīng)用的更優(yōu)選擇。

在演講的尾聲，曹潯峰展望了江波龍企業(yè)級(jí)存儲(chǔ)產(chǎn)品的未來(lái)發(fā)展方向，主要聚焦于擴(kuò)大存儲(chǔ)容量、提升產(chǎn)品性能、引入QLC NAND Flash作為資源補(bǔ)充的發(fā)展趨勢(shì)，以滿足不同客戶的差異化需求，與產(chǎn)業(yè)鏈合作伙伴共同推動(dòng)算力產(chǎn)業(yè)進(jìn)步。

*上述產(chǎn)品數(shù)據(jù)均來(lái)源于江波龍內(nèi)部測(cè)試

實(shí)際性能因設(shè)備差異，可能有所不同