基于5個問題闡述GPU在增強(qiáng)AI和機(jī)器學(xué)習(xí)技術(shù)中的作用。

在21世紀(jì)初期，研究人員意識到，由于機(jī)器學(xué)習(xí)算法通常具有與圖形處理算法相同類型的計算，因此GPU可以為機(jī)器學(xué)習(xí)提供基于CPU計算的更有效的替代方案。盡管近年來基于CPU的可用性和成本限制，但基于GPU的計算已經(jīng)成為機(jī)器學(xué)習(xí)或神經(jīng)網(wǎng)絡(luò)訓(xùn)練的事實標(biāo)準(zhǔn)?；?個問題闡述GPU 在增強(qiáng) AI 和機(jī)器學(xué)習(xí)技術(shù)中的作用。

GPU是什么?

顧名思義，專業(yè)的圖形處理單元(GPU)最初是在幾十年前設(shè)計的，用于高效的執(zhí)行圖像和視頻處理等常見的操作。這些過程以基于矩陣的數(shù)學(xué)計算為特色。人們通常更熟悉中央處理器(CPU)，它存在于筆記本電腦、手機(jī)和智能設(shè)備中，可以執(zhí)行許多不同類型的操作。

在21世紀(jì)初期，研究人員意識到，由于機(jī)器學(xué)習(xí)算法通常具有與圖形處理算法相同類型的計算，因此GPU可以為機(jī)器學(xué)習(xí)提供基于CPU計算的更有效的替代方案。盡管近年來基于CPU的可用性和成本限制，但基于GPU的計算已經(jīng)成為機(jī)器學(xué)習(xí)或神經(jīng)網(wǎng)絡(luò)訓(xùn)練的事實標(biāo)準(zhǔn)。

使用GPU的好處是什么?

使用GPU最關(guān)鍵的好處就是效率高。GPU提供的計算效率不僅僅是簡化了分析過程，它還促進(jìn)了更廣泛的模型訓(xùn)練以獲得更高的準(zhǔn)確性，擴(kuò)大了模型搜索過程的范圍以防止替代規(guī)范，使以前無法實現(xiàn)的某些模型變得可行，并允許對替代數(shù)據(jù)集增加額外的敏感性以確保其穩(wěn)健性。

GPU如何支持專家證詞?

基于人工智能的系統(tǒng)用數(shù)據(jù)驅(qū)動的決策取代了人類決策。這可以使得在處理大量復(fù)雜信息時減少主觀性和錯誤。我們利用人工智能和機(jī)器學(xué)習(xí)來推動越來越復(fù)雜的任務(wù)的自動化，并解鎖新的分析方法，包括使用監(jiān)督和非監(jiān)督學(xué)習(xí)，這些技術(shù)都由我們內(nèi)部的GPU支持。

數(shù)據(jù)科學(xué)中心如何利用GPU進(jìn)行計算?

我們在案例生命周期的所有階段（從發(fā)現(xiàn)到經(jīng)濟(jì)分析）以及從標(biāo)準(zhǔn)表格數(shù)據(jù)到文本和圖像的所有類型的數(shù)據(jù)都使用GPU。其中一些應(yīng)用程序依賴于GPU計算已經(jīng)被廣泛使用的應(yīng)用程序，如神經(jīng)網(wǎng)絡(luò)，而另一些應(yīng)用程序則依賴于更定制的分析框架。下面是一些例子。

矩陣運(yùn)算

GPU使我們能夠快速地執(zhí)行自定義矩陣運(yùn)算。例如，在反壟斷問題中，我們經(jīng)常需要計算所有供應(yīng)商和所有消費者之間的距離(坐標(biāo)對)。將計算從CPU遷移到GPU使我們能夠每秒計算近1億個坐標(biāo)對之間的距離。

深層神經(jīng)網(wǎng)絡(luò)

圍繞基于GPU計算的許多關(guān)注的重點都集中在神經(jīng)網(wǎng)絡(luò)上。雖然能夠處理常規(guī)的分類和回歸問題，但附加的特定于任務(wù)的神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu)為文本、圖像和聲音的特定分析提供了一個框架?？紤]到這些模型的復(fù)雜性和生成可靠結(jié)果所需的數(shù)據(jù)量，如果沒有GPU計算資源，它們的使用實際上是無法實現(xiàn)的。當(dāng)在GPU上訓(xùn)練一個流行的多類圖像模型時，與在單個CPU上運(yùn)行相同的進(jìn)程相比，我們體驗到了25，000%的速度提高。我們在針對消費者欺詐問題的內(nèi)容分析中利用了這種效率，我們設(shè)計文本和圖像分類器來表征有問題的營銷材料的目標(biāo)受眾。

增強(qiáng)樹

隨著GPU計算變得越來越普遍，流行的機(jī)器學(xué)習(xí)軟件包越來越多地在其產(chǎn)品中包含基于GPU的計算選項。我們經(jīng)常在回歸和分類問題中使用增強(qiáng)樹。這些模型依次將多個簡單的決策樹聚合為一個更大、更準(zhǔn)確的學(xué)習(xí)器。與可能具有數(shù)億個參數(shù)的深度神經(jīng)網(wǎng)絡(luò)相比，這些模型更小，因此需要更少的數(shù)據(jù)和訓(xùn)練時間來產(chǎn)生可概括的推理。這些優(yōu)勢使得它們在我們經(jīng)常遇到的許多類型的分析中比深度神經(jīng)網(wǎng)絡(luò)更有用。切換到基于GPU的訓(xùn)練過程使我們能夠為這些任務(wù)訓(xùn)練模型，其速度比相應(yīng)的 CPU 規(guī)范快近 100 倍。

語言模型

語言模型通常基于一種或多種深度學(xué)習(xí)技術(shù)，可以對文本進(jìn)行分類、解析和生成。我們使用大型語言模型來提取特定的信息片段，解析實體之間的關(guān)系，識別語義關(guān)系，并在文本分類問題中補(bǔ)充傳統(tǒng)的基于術(shù)語的特征，例如在誹謗事件中量化圍繞公共實體的社交媒體情緒。

不出所料，考慮到這些模型可以做的所有事情，利用CPU通過這些模型處理文檔會給分析過程帶來顯著的延遲。僅僅使用一個GPU，我們就可以將文檔分割成獨立的組件，并且每秒可以完全處理幾百個句子。

未來我們可以期待這個領(lǐng)域的哪些發(fā)展？

GPU和與其相關(guān)的軟件將繼續(xù)發(fā)展。新的硬件可能具有更多的內(nèi)核、更快的內(nèi)核和更多的內(nèi)存，以適應(yīng)更大的模型和數(shù)據(jù)批。新的軟件可能會使跨多個GPU，共享模型和數(shù)據(jù)變得更加容易。

其他發(fā)展可能涉及完全不同的設(shè)備。為了解決GPU計算中仍然存在的一些效率低下的問題，機(jī)器學(xué)習(xí)從業(yè)者越來越多地轉(zhuǎn)向應(yīng)用特定的集成電路(ASIC)和現(xiàn)場可編程門陣列(FPGA)。例如，谷歌的張量處理單元(TPU)是一個專門為其機(jī)器學(xué)習(xí)TensorFlow軟件包執(zhí)行計算而設(shè)計的ASIC。FPGA提供了更大的靈活性，通常用于在需要低延遲、高帶寬和最低能耗的生產(chǎn)環(huán)境中部署機(jī)器學(xué)習(xí)模型。

審核編輯 ：李倩