電子發(fā)燒友網(wǎng)報(bào)道（文/吳子鵬）近日，裕太微董秘和投資者在投資者關(guān)系平臺(tái)上的對(duì)話引起了關(guān)注。其中，有投資者在提出問(wèn)題：“ChatGPT對(duì)算力需求幾何式增長(zhǎng)，博通預(yù)計(jì)以太網(wǎng)今年需求有多倍增長(zhǎng)，公司如何看待？”對(duì)于這個(gè)問(wèn)題，裕太微董秘并沒(méi)有正面回答，不過(guò)以太網(wǎng)芯片在AI新階段的重要作用還是得到了大家的認(rèn)可。

博通CEO陳福陽(yáng)此前表示：“用于人工智能應(yīng)用的以太網(wǎng)設(shè)備銷(xiāo)售額可能從去年的2億美元上升到今年的超過(guò)8億美元，因?yàn)榇笮?a target="_blank">云計(jì)算公司在日益采用ChatGPT等文本生成工具的情況下需要這些設(shè)備?！辈⑶遥谠摴緲I(yè)績(jī)說(shuō)明會(huì)上還指出，已經(jīng)遇到云計(jì)算客戶(hù)急于向該公司購(gòu)買(mǎi)產(chǎn)品的情況。

在大家都關(guān)注算力芯片的情況下，作為AI模型架構(gòu)中的重要一環(huán)，以以太網(wǎng)交換芯片為代表的網(wǎng)絡(luò)傳輸芯片在悶聲發(fā)大財(cái)。

AI大模型帶來(lái)巨大的網(wǎng)絡(luò)需求

當(dāng)前，在討論ChatGPT等大模型時(shí)，更多是談?wù)撍懔π酒?，?dāng)然基本就是英偉達(dá)的通用算力GPU。不過(guò)，大模型真的要落地到應(yīng)用端，那么就需要把訓(xùn)練完的模型部署到數(shù)據(jù)中心里面或者算力中心里面，并連接至網(wǎng)絡(luò)給用戶(hù)使用。當(dāng)然，并不是說(shuō)AI大模型訓(xùn)練不需要網(wǎng)絡(luò)設(shè)施，實(shí)際上其也需要網(wǎng)絡(luò)基座，用以連接各個(gè)GPU算力集群。

根據(jù)此前的報(bào)道，面向AI大模型訓(xùn)練需求，騰訊推出了業(yè)界領(lǐng)先的超算網(wǎng)絡(luò)架構(gòu)——星脈。這是一種追求極致網(wǎng)絡(luò)性能的網(wǎng)絡(luò)架構(gòu)，構(gòu)建了1.6T ETH RDMA網(wǎng)絡(luò)，實(shí)現(xiàn)了AI大模型通信性能的10倍提升，GPU利用率40%提升，通信時(shí)延降低40%，單集群規(guī)模達(dá)到2K（最大規(guī)模32K），基于全自研網(wǎng)絡(luò)硬件平臺(tái)網(wǎng)絡(luò)建設(shè)成本降低30%，模型訓(xùn)練成本節(jié)省30%~60%。

中金公司在相關(guān)研報(bào)中指出，AI大模型訓(xùn)練采用的分布式算力是以“多機(jī)多卡”形式部署的，多GPU并行計(jì)算使得服務(wù)器節(jié)點(diǎn)增加，涉及到海量數(shù)據(jù)在GPU之間、GPU與CPU等單元間的傳輸，因此帶來(lái)了巨大的網(wǎng)絡(luò)通信挑戰(zhàn)。

根據(jù)SuperPOD的公開(kāi)信息，一個(gè)標(biāo)準(zhǔn)的SuperPOD由140臺(tái)DGX A100 GPU服務(wù)器、HDR InfiniBand 200G網(wǎng)卡和170臺(tái)NVIDIA Quantum QM8790交換機(jī)構(gòu)建而成，其中交換機(jī)速率為200G，每個(gè)端口數(shù)為40個(gè)。

因此，AI大模型無(wú)論是訓(xùn)練還是部署也會(huì)帶來(lái)巨大的光模塊需求，在SuperPOD中，服務(wù)器和光模塊的用量比大概會(huì)是1：11.4。并且，從SuperPOD的部署也能夠看出，后續(xù)大算力中心和頂級(jí)數(shù)據(jù)中心的網(wǎng)絡(luò)規(guī)格會(huì)是100G以上的端口速率，當(dāng)前200G是主流方案。從2023年開(kāi)始預(yù)計(jì)400G將逐漸成為主流，800G交換機(jī)可能會(huì)陸續(xù)得到商用機(jī)會(huì)。

在市場(chǎng)規(guī)模上，MRFR（Market Research Future）報(bào)告指出，到2030年全球以太網(wǎng)交換機(jī)市場(chǎng)將達(dá)到68億美元，2022年-2030年期間的年復(fù)合增長(zhǎng)率為6.30%。從器件角度來(lái)看，兩種器件的重要性顯著提升，一個(gè)是更大吞吐量的網(wǎng)絡(luò)芯片，一個(gè)是更高速率的光模塊。

首先看以太網(wǎng)交換芯片——指在以太網(wǎng)交換機(jī)中用于交換處理大量數(shù)據(jù)及報(bào)文轉(zhuǎn)發(fā)的專(zhuān)用芯片，相當(dāng)于交換機(jī)處理網(wǎng)絡(luò)傳輸?shù)?a target="_blank">ASIC。由于AI大模型在訓(xùn)練和部署時(shí)對(duì)交換機(jī)需求提升，因此交換芯片的用量也將增加，這也是博通預(yù)計(jì)業(yè)績(jī)倍增的原因所在。

然后看光模塊——被認(rèn)為是AI算力設(shè)施中核心的網(wǎng)絡(luò)設(shè)備。目前，以太網(wǎng)交換機(jī)主要采用帶光模塊的光纖連接網(wǎng)絡(luò)，其中每根光纖會(huì)用到兩個(gè)光模塊，而一臺(tái)交換機(jī)上會(huì)有數(shù)十個(gè)網(wǎng)絡(luò)接口，因此需求量是非常驚人的。

國(guó)產(chǎn)廠商的競(jìng)爭(zhēng)力

借助ChatGPT帶動(dòng)的AI大模型爆發(fā)，博通在以太網(wǎng)交換芯片方面的營(yíng)收將翻倍，這主要?dú)w功于該公司在這一領(lǐng)域持續(xù)的投入和技術(shù)積累，該公司一直以來(lái)都在關(guān)注數(shù)據(jù)中心和算力中心的網(wǎng)絡(luò)傳輸。當(dāng)然，大家肯定也清楚，網(wǎng)絡(luò)通信芯片是博通的強(qiáng)勢(shì)項(xiàng)目。

在ChatGPT爆發(fā)之前，博通就在meta的數(shù)據(jù)中心提供了極具競(jìng)爭(zhēng)力的以太網(wǎng)交換芯片——Tomahawk4，產(chǎn)品陣營(yíng)包括Tomahawk4-50G、Tomahawk4-100G 和 Tomahawk4-12.8T，能夠幫助交換機(jī)適配200G、400G和800G光纖。

根據(jù)共研產(chǎn)業(yè)咨詢(xún)的研報(bào)，在中國(guó)商用以太網(wǎng)交換市場(chǎng)，博通的市占比高達(dá)61.7%，排名市場(chǎng)首位；美滿(mǎn)電子和瑞昱則分別以20%和16.1%排名二三位；其他廠商的合計(jì)份額不足3%。因此，在以太網(wǎng)交換芯片方面，目前國(guó)產(chǎn)廠商的市占比還較低。

在國(guó)產(chǎn)以太網(wǎng)交換芯片方面，華為和中興等企業(yè)走自研的路線。在商用市場(chǎng)，盛科和裕太微電子是為數(shù)不多的可選項(xiàng)，其中盛科在國(guó)內(nèi)的市占比大概在1.6%。

盛科于2019年推出以太網(wǎng)交換芯片TsingMa系列，具備440Gbps 交換容量，可支持100G網(wǎng)絡(luò)端口；2021 年又推出了以太網(wǎng)交換芯片TsingMa.MX 系列，達(dá)到2.4Tbps 交換容量，可支持400G網(wǎng)絡(luò)端口。

裕太微目前產(chǎn)品包括以太網(wǎng)車(chē)載芯片、以太網(wǎng)交換芯片、以太網(wǎng)網(wǎng)卡芯片等，不過(guò)該公司距離入局核心市場(chǎng)還有一段距離。根據(jù)該公司此前在投資者平臺(tái)透露的信息，目前10G速率尚處于技術(shù)預(yù)研階段。

和以太網(wǎng)交換芯片不同，國(guó)產(chǎn)廠商在光模塊方面具有很強(qiáng)的競(jìng)爭(zhēng)力。其中，中際旭創(chuàng)是全球光模塊的龍頭企業(yè)，2021年市占比為全球第二，份額為10%，該公司在400G和200G產(chǎn)品份額領(lǐng)先，在800G方面有很強(qiáng)的技術(shù)優(yōu)勢(shì)。meta、谷歌和亞馬遜等公司都是中際旭創(chuàng)的客戶(hù)。

此外，在光模塊方面，國(guó)產(chǎn)廠商還有天孚通信、新易盛、源杰科技、華工科技、聯(lián)特科技、光迅科技、兆龍互連、仕佳光子等公司。目前，國(guó)產(chǎn)光模塊公司合計(jì)市占比接近30%，有很強(qiáng)的競(jìng)爭(zhēng)力。

后記

對(duì)于AI大模型而言，算力的重要性肯定是第一位的。不過(guò)，在算力背后并非只是計(jì)算芯片在做貢獻(xiàn)，網(wǎng)絡(luò)傳輸也非常重要。隨著超算中心GPU集群規(guī)模逐漸擴(kuò)大，高效傳輸?shù)闹匾砸矔?huì)逐漸提升，在以太網(wǎng)交換芯片和光模塊等方面帶來(lái)巨大的需求。目前，以太網(wǎng)交換芯片還是***的短板，和博通存在明顯的技術(shù)代差。不過(guò)，從產(chǎn)業(yè)應(yīng)用來(lái)看，并不構(gòu)成卡脖子，但在800G上我們需要盡快突破。