在理論上，通過(guò)增加更多GPU核心來(lái)提升性能似乎很簡(jiǎn)單：核心越多，性能越強(qiáng)。但在實(shí)踐中，這是圖形架構(gòu)領(lǐng)域最棘手的挑戰(zhàn)之一。雖然某些工作負(fù)載因其獨(dú)立特性能實(shí)現(xiàn)良好擴(kuò)展，但另一些工作負(fù)載（尤其是幾何處理）會(huì)引入順序依賴(lài)性，使得線(xiàn)性性能擴(kuò)展成為業(yè)界所有GPU架構(gòu)都難以攻克的難題。

為什么多核GPU性能擴(kuò)展如此困難？

現(xiàn)代GPU的優(yōu)勢(shì)來(lái)自高度并行化，但并不是所有任務(wù)都能做到并行。以幾何處理為例，它具有天然的順序性。圖形API要求按照提交順序處理對(duì)象，因?yàn)榭梢?jiàn)性與渲染結(jié)果往往依賴(lài)這一順序。這意味著幾何工作負(fù)載通常只能在單一核心上運(yùn)行，生成按順序排列的tile列表供后續(xù)管線(xiàn)使用。當(dāng)幾何階段成為瓶頸時(shí)，其他核心會(huì)處于閑置狀態(tài)，從而導(dǎo)致擴(kuò)展效率大幅下降。

這并非Imagination獨(dú)有的困境。其他GPU架構(gòu)同樣面臨類(lèi)似挑戰(zhàn)：它們同樣難以在工作負(fù)載無(wú)法平均分配時(shí)保持高效擴(kuò)展。雖然動(dòng)態(tài)并行（dynamic parallelism）和硬件隊(duì)列（hardware queues）等技術(shù)能夠提供幫助，但在幾何密集場(chǎng)景下問(wèn)題依然突出。結(jié)果就是：增加核心數(shù)量并不一定能帶來(lái)成比例的性能提升——無(wú)論使用的是哪種GPU。

那么，我們的解決方案是什么？

走進(jìn)Imagination的多核GPU架構(gòu)

在討論我們的幾何擴(kuò)展方案之前，我們先回顧一下Imagination的多核基礎(chǔ)。

Imagination GPU具備高度可擴(kuò)展的多核技術(shù)，可幫助系統(tǒng)設(shè)計(jì)者實(shí)現(xiàn)更高峰值性能或最大工作負(fù)載靈活性。Imagination的方法是去中心化（decentralised）且松耦合（loosely-coupled），從而避免傳統(tǒng)集中式多核架構(gòu)所面臨的擁塞和布局限制問(wèn)題。

這些核心是松耦合的，僅通過(guò)內(nèi)存共享命令列表和tile緩沖列表，共同分擔(dān)工作負(fù)載。由于每個(gè)核心都被設(shè)計(jì)為一個(gè)獨(dú)立、完整的GPU，它包含所有必要的功能，能夠根據(jù)優(yōu)先級(jí)自行管理并執(zhí)行任務(wù)。

Imagination GPU多核網(wǎng)格的主–主(Primary-Primary）模式

Imagination GPU多核網(wǎng)格的主–從（Primary-Secondary）模式

多核網(wǎng)格中的每個(gè)核心都可以獨(dú)立運(yùn)行（主–主模式，Primary-Primary），也可以協(xié)同運(yùn)行（主–從模式，Primary-Secondary）。在主–從配置下，只有主GPU核心（Primary GPU Core）內(nèi)的一個(gè)固件處理器處于激活狀態(tài)，它負(fù)責(zé)驅(qū)動(dòng)所有屬于多核網(wǎng)格的從GPU核心（Secondary GPU Cores）中的工作負(fù)載。多個(gè)GPU實(shí)例共享命令流，并共同盡可能快速地完成任務(wù)。

通過(guò)讓每個(gè)GPU核心在渲染目標(biāo)（render target）的不同區(qū)域上工作，我們能夠保持帶寬效率，因?yàn)槊總€(gè)核心始終處理屏幕上連續(xù)且具一致性的區(qū)域，從而確保最大的緩存命中率（每個(gè)核心的數(shù)據(jù)根據(jù)自身處理的任務(wù)進(jìn)行針對(duì)性緩存，避免核心之間不必要的數(shù)據(jù)遷移和重復(fù)，提高整體效率）。

多核網(wǎng)格中的寄存器設(shè)置和同步通過(guò)專(zhuān)用的XPU總線(xiàn)來(lái)處理，它連接主GPU核心和所有從GPU核心，支持點(diǎn)對(duì)點(diǎn)及廣播模式。該核間通信結(jié)構(gòu)與內(nèi)存層級(jí)經(jīng)過(guò)優(yōu)化，確保在核心數(shù)量增加時(shí)仍能降低延遲。該結(jié)構(gòu)還能將GPU核心分布在多個(gè)Chiplet、芯片甚至不同的板上。這為客戶(hù)提供了更靈活的設(shè)計(jì)選擇，并顯著降低成本——客戶(hù)只需設(shè)計(jì)一個(gè)單一chiplet（或芯片），便可通過(guò)封裝多個(gè)chiplet來(lái)構(gòu)建不同性能檔位，從而擴(kuò)展GPU性能。

引入Alternate Geometry Processing（AGP）：交替式幾何處理

現(xiàn)在我們回到如何在多核心環(huán)境中實(shí)現(xiàn)接近線(xiàn)性的性能擴(kuò)展這一挑戰(zhàn)上。

我們多核技術(shù)的一個(gè)關(guān)鍵特性——最早在B-Series中引入，并在后續(xù)幾代中不斷優(yōu)化——這便是交替式幾何處理（AGP）。AGP并不是強(qiáng)制所有幾何任務(wù)都由一個(gè)核心處理，而是將幾何工作負(fù)載分布到多個(gè)核心，但保留一個(gè)關(guān)鍵原則：不破壞同一渲染目標(biāo)內(nèi)部的嚴(yán)格順序要求。

AGP的方法是：將不同的渲染目標(biāo)（render targets）或不同幀分配給不同GPU核心處理幾何階段。

例如：

• 核心#1處理渲染目標(biāo)A的幾何任務(wù)；

• 核心#2處理渲染目標(biāo)B的幾何任務(wù)；

• 與此同時(shí)，像素處理和計(jì)算任務(wù)會(huì)被切片并分配到所有核心上并行執(zhí)行。

這種方式既遵循了圖形API的順序規(guī)則，又能在多個(gè)渲染任務(wù)獨(dú)立的情況下釋放并行度。在多幀、多個(gè)渲染目標(biāo)的場(chǎng)景中，AGP能顯著減少閑置時(shí)間，讓負(fù)載分配更均衡。

交替式幾何處理（AGP）的實(shí)際優(yōu)勢(shì)

1.更高的擴(kuò)展效率

通過(guò)在多個(gè)核心之間分配幾何工作，AGP避免了單核心成為瓶頸的問(wèn)題。這在云游戲或汽車(chē)系統(tǒng)等同時(shí)處理多場(chǎng)景、多顯示的多核配置中尤為重要。

2.更佳的資源利用率

若沒(méi)有AGP，負(fù)責(zé)幾何處理的核心還要承擔(dān)其像素處理任務(wù)，從而拖慢整個(gè)多核系統(tǒng)。而AGP能平衡負(fù)載、減少傾斜（skew），保持所有核心都持續(xù)工作。

Imagination的AGP與其他GPU廠商的比較

其他GPU廠商采用的方案不盡相同。

• NVIDIA 多GPU架構(gòu)多基于逐幀并行（Alternate Frame Rendering）。

• AMD則采用命令處理器和硬件隊(duì)列來(lái)分配工作負(fù)載。

但兩種方案都面臨類(lèi)似的局限性：幾何密集型場(chǎng)景仍可能阻礙擴(kuò)展，因?yàn)樵诓黄茐匿秩菊_性的前提下難以拆分這類(lèi)場(chǎng)景。

Imagination的AGP技術(shù)之所以脫穎而出，在于其采用軟件驅(qū)動(dòng)模式并深度集成于我們的分塊式（Tile-Based）架構(gòu)，從而實(shí)現(xiàn)高效靈活的運(yùn)行。結(jié)合去中心化、松耦合的多核設(shè)計(jì)，AGP能為原本可能陷入停滯的工作負(fù)載提供近乎線(xiàn)性的擴(kuò)展能力。

對(duì)系統(tǒng)設(shè)計(jì)者意味著什么？

對(duì)系統(tǒng)設(shè)計(jì)者而言，結(jié)論非常清晰：

多核擴(kuò)展的成功并不是簡(jiǎn)單地疊加更多核心，而是更智能合理地管理工作負(fù)載。

若您希望深入了解如何基于Imagination GPU IP構(gòu)建高性能多核解決方案，以及如何高效分配工作負(fù)載，歡迎聯(lián)系我們的團(tuán)隊(duì)。

英文鏈接：https://blog.imaginationtech.com/how-alternate-geometry-processing-enables-better-multi-core-gpu-scaling

聲明：本文為原創(chuàng)文章，轉(zhuǎn)載需注明作者、出處及原文鏈接。