AI 算力正在以肉眼可見的速度不斷攀升

從大模型訓練到推理部署，從單卡性能比拼到整機柜、整集群的系統(tǒng)能力競爭，AI 基礎設施的演進，早已不再只是“芯片性能”的問題。

在實際工程中，一個共識正在形成：

算力越往上走，系統(tǒng)越難做。

當功耗邁入千瓦級、互聯(lián)速率進入 800G / 1.6T 時代，真正制約 AI 服務器穩(wěn)定運行的，往往是兩類被低估的“底層問題”。它們不在發(fā)布會的聚光燈下，卻決定著算力能否被真正釋放。

在最新兩期《科技叨叨叨》中，我們正是從工程視角，圍繞這些底層挑戰(zhàn)展開了一次系統(tǒng)討論。

一、數(shù)據(jù)怎么跑得“又快又好”？

隨著 AI 服務器從通用計算走向超高密度算力集群，內(nèi)部互聯(lián)發(fā)生了根本變化：

?速率飆升：速率從400G → 800G → 1.6T

?單通道極限：單通道速率從112Gbps 提升至 224Gbps甚至448Gbps

?集群吞吐：單機柜帶寬突破10TB/s

這意味著：線纜不再只是一條線，而是信號完整性的關鍵一環(huán)。

有源線纜，正在成為主角。視頻中，嘉賓系統(tǒng)梳理了當前高速線纜的四大類型：

?AOC（有源光纜）

?DAC（無源銅纜）

?ACC（帶 Re-driver 的有源銅纜）

?AEC（帶 Re-timer 的有源銅纜）

其中，有源銅纜（ACC / AEC）正在成為 AI 服務器中短距離通信的重要部分。

二、算力越大，服務器為什么越來越“熱”？

在 AI 液冷主題視頻中，一組數(shù)字揭示了散熱面臨的嚴峻挑戰(zhàn)：

?單顆 AI 芯片功耗已達 1200–1400W

?下一代架構甚至可能逼近2000W+

?單機柜功耗，正在向600kW演進

而傳統(tǒng)風冷的極限，通常只有20–40kW。

結論只有一個：液冷不是“要不要”，而是“必須要”。AI 液冷，不只是“把熱帶走”那么簡單，目前主流的液冷方案包括：

?冷板式液冷：改造相對小，逐步落地

?浸沒式液冷：效率極高，但對系統(tǒng)與材料要求更嚴苛

真正的技術難點，反而藏在“看不見”的地方：

?冷卻液的介電常數(shù)、介質(zhì)損耗

?液體環(huán)境下的高速信號完整性

?PCIe 5.0 / 6.0、高速鏈路的誤碼與降速風險

也正因如此，液冷技術的發(fā)展，已經(jīng)從“散熱方案”升級為材料與電氣性能協(xié)同的工程問題。

關于是德科技

是德科技（NYSE：KEYS）啟迪并賦能創(chuàng)新者，助力他們將改變世界的技術帶入生活。作為一家標準普爾 500 指數(shù)公司，我們提供先進的設計、仿真和測試解決方案，旨在幫助工程師在整個產(chǎn)品生命周期中更快地完成開發(fā)和部署，同時控制好風險。我們的客戶遍及全球通信、工業(yè)自動化、航空航天與國防、汽車、半導體和通用電子等市場。我們與客戶攜手，加速創(chuàng)新，創(chuàng)造一個安全互聯(lián)的世界。