chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

FPGA與GPU計算存儲單位功耗性能

算法與數(shù)據(jù)結構 ? 來源:Xilinx賽靈思 ? 作者:Xilinx ? 2021-08-13 17:45 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

為了提升計算基礎設施的性能,并緊跟數(shù)據(jù)分析與 AI 不斷攀升的需求,眾多企業(yè)將硬件加速視為主要的解決方案。在大多數(shù)情況下,先進的可編程硬件(主要是指 GPUFPGA)是加速的主要方式。通過使用這種先進的硬件,企業(yè)正在贏得計算優(yōu)勢;然而,對于編程難度,他們仍然存在合理的擔憂。

硬件制造商正在將加速方法應用于計算存儲,這是專門設計用于包含內嵌計算元素的存儲。這種方法已經被證明可以為分析和 AI 應用提供優(yōu)異的性能。使用或者不使用機器學習輔助的分析以及驗證,都可以借助計算存儲器件進行加速。這些器件提供了一個關鍵的優(yōu)勢,使得成本高昂的計算被卸載到存儲器件上,而不必在服務器 CPU 上完成。與標準的存儲/CPU 方法相比,通過計算存儲獲得的優(yōu)勢包括:

1

借助應用專用編程定制可編程硬件,獲得更高性能

2

將計算任務從服務器卸載到存儲器件,釋放 CPU 資源

3

數(shù)據(jù)與計算共址,降低數(shù)據(jù)傳輸需求

這種新穎的方法前景光明。不過,您應根據(jù)具體用例評估這種方法,考量性能、成本、功耗和易用性。性價比和單位功耗性能在選擇加速硬件評估時,占據(jù)主要比率。在本文中,我們將研討單位功耗性能。

計算存儲功耗比較

在這個場景中,我們將比較以 CSV 數(shù)據(jù)讀取用例為主的三種工具:英偉達 GPUDirect 存儲 和RAPIDS存儲,以及基于賽靈思技術的三星 SmartSSD 存儲。CSV 讀取在計算密集型流水線中起著重要的作用。

在下文中,我們將性能定義成 CSV 的處理速率,或處理“帶寬”。我們先快速回顧一下三種系統(tǒng)的運行方式。

英偉達 GPUDirect 存儲

端到端滿足分析和 AI 需求

將 GPU 用作計算單元,緊貼基于 NVMe 的存儲器件布局 (GPUDirect)

使用 CUDA 進行編程 (RAPIDS)

英偉達用其 CSV 數(shù)據(jù)讀取技術衡量相對于標準 SSD 的性能提升。結果如圖 1 所示。使用 1 到 8 個加速器時,對應的吞吐量是 4 到 23GB/s。

三星 SmartSSD 驅動器

將賽靈思 FPGA 用作計算單元

與存儲邏輯內嵌駐留在同一個內部 PCIe 互聯(lián)上

通過編程在存儲平臺上開展運算

賽靈思數(shù)據(jù)分析解決方案合作伙伴 Bigstream 與三星合作,為 Apache Spark 設計加速器,包括用于 CSV 和 Parquet 處理的 IP。SmartSSD 的測試使用單機模式的 CSV 解析引擎,以便開展比較。結果如圖 2 所示,使用 1 到 12 個加速器時,對應的吞吐量是 4 到 23GB/s,同時也給出英偉達的結果(使用 1 到 8 個加速器)。請注意,本討論中的所有結果都按 x 軸上的加速器數(shù)量進行參數(shù)化。

這些結果令人振奮,但在選擇您的解決方案時,請務必將功耗情況納入考慮。

單位功耗性能比較

圖 3 顯示了將功耗考慮在內后的分析結果。它們代表單位功耗達到的性能水平,根據(jù)上述討論中引用的相關材料,給出了以下假設:

Tesla V100 GPU:最大功耗 200 瓦

SmartSSD 驅動器 FPGA:最大功耗 30 瓦

在這個場景下,計算表明,在全部使用 8 個加速器的情況下,SmartSSD 的單位功耗性能比 GPUDirect Storage 高 25 倍。

最 終 思 考

計算存儲的優(yōu)勢在于能增強數(shù)據(jù)分析和 AI 應用的性能。然而,要讓這種方法具備可實際部署的能力和實用性,就必須在評估時將功耗納入考慮。

針對用于 CSV 數(shù)據(jù)解析的兩種不同的計算存儲方法,我們已經提出按功耗參數(shù)化的吞吐量性能曲線。結果顯示,在使用相似數(shù)量的加速器進行比較時,SmartSSD 驅動器的單位功耗性能優(yōu)于 GPUDirect存儲方法。

GPUDirect 是英偉達通過 NVIDIA DGX-2 應用平臺提供的研究系統(tǒng)。

三星 SmartSSD 驅動器是一種可部署的量產型 PCIe 可插拔平臺,現(xiàn)在已經通過賽靈思及分銷商供貨。

責任編輯:haq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • FPGA
    +關注

    關注

    1660

    文章

    22394

    瀏覽量

    635494
  • 驅動器
    +關注

    關注

    54

    文章

    9067

    瀏覽量

    155175
  • 三星電子
    +關注

    關注

    34

    文章

    15894

    瀏覽量

    183063
  • gpu
    gpu
    +關注

    關注

    28

    文章

    5177

    瀏覽量

    135269

原文標題:FPGA 與 GPU 計算存儲加速對比

文章出處:【微信號:TheAlgorithm,微信公眾號:算法與數(shù)據(jù)結構】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    FPGA+GPU異構混合部署方案設計

    為滿足對 “納秒級實時響應” 與 “復雜數(shù)據(jù)深度運算” 的雙重需求,“FPGA+GPU”異構混合部署方案通過硬件功能精準拆分與高速協(xié)同,突破單一硬件的性能瓶頸 ——FPGA聚焦低延遲實時交易鏈路,
    的頭像 發(fā)表于 01-13 15:20 ?304次閱讀

    什么是低功耗設計,如何評估低功耗MCU性能?

    每一個細節(jié)來考慮降低功率消耗,從而盡可能地延長電池使用時間。 因此,大部分芯片都會有低功耗模式。從MCU端來講,低功耗的MCU性能一般有以下幾個參數(shù)指標來衡量: ·MCU處于深度休眠模式的時候,所
    發(fā)表于 12-12 07:43

    汽車中的GPU是如何使用的?

    (HMI)的發(fā)展尤為迅猛。隨著電子電氣架構(EEA)的集中化,車輛對高性能計算能力的需求顯著提升,GPU(圖形處理單元)的靈活性、可擴展性以及高效并行計算能力,使其成為支持這些創(chuàng)新應用
    的頭像 發(fā)表于 12-03 14:45 ?9563次閱讀
    汽車中的<b class='flag-5'>GPU</b>是如何使用的?

    NVIDIA RTX PRO 2000 Blackwell GPU性能測試

    Blackwell 架構 GPU 中的中端專業(yè)圖形卡,高度僅為全高 GPU 的二分之一。如果您需要的是一塊半高顯卡,能適配小機箱,功耗不高,還要具備 AI 及光線追蹤性能的話,那么
    的頭像 發(fā)表于 11-28 09:39 ?6117次閱讀
    NVIDIA RTX PRO 2000 Blackwell <b class='flag-5'>GPU</b><b class='flag-5'>性能</b>測試

    FPGAGPU加速的視覺SLAM系統(tǒng)中特征檢測器研究

    (Nvidia Jetson Orin與AMD Versal)上最佳GPU加速方案(FAST、Harris、SuperPoint)與對應FPGA加速方案的性能,得出全新結論。
    的頭像 發(fā)表于 10-31 09:30 ?600次閱讀
    <b class='flag-5'>FPGA</b>和<b class='flag-5'>GPU</b>加速的視覺SLAM系統(tǒng)中特征檢測器研究

    曙光存儲支持西湖大學高性能計算中心部署完成全新存儲系統(tǒng)

    近日,曙光存儲支持西湖大學高性能計算中心部署完成全新存儲系統(tǒng),為AI研發(fā)、科學計算和信息化平臺等提供存力支持。
    的頭像 發(fā)表于 08-25 11:48 ?1217次閱讀

    PCIe協(xié)議分析儀能測試哪些設備?

    ) 測試場景:驗證CPU與PCIe設備(如GPU、FPGA)之間的數(shù)據(jù)流,優(yōu)化任務調度和數(shù)據(jù)流。 應用價值:在異構計算環(huán)境中平衡計算資源,減少數(shù)據(jù)傳輸瓶頸。 二、
    發(fā)表于 07-25 14:09

    如何在Ray分布式計算框架下集成NVIDIA Nsight Systems進行GPU性能分析

    在大語言模型的強化學習訓練過程中,GPU 性能優(yōu)化至關重要。隨著模型規(guī)模不斷擴大,如何高效地分析和優(yōu)化 GPU 性能成為開發(fā)者面臨的主要挑戰(zhàn)之一。
    的頭像 發(fā)表于 07-23 10:34 ?2378次閱讀
    如何在Ray分布式<b class='flag-5'>計算</b>框架下集成NVIDIA Nsight Systems進行<b class='flag-5'>GPU</b><b class='flag-5'>性能</b>分析

    半導體存儲芯片核心解析

    : DRAM:向更先進的制程(10nm級別及以下)演進,發(fā)展 LPDDR (低功耗版本)、HBM (高帶寬內存) 等滿足高性能計算和AI需求。 NAND Flash:3D堆疊層數(shù)持續(xù)增加(200+層以上
    發(fā)表于 06-24 09:09

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】+NVlink技術從應用到原理

    前言 【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」書中的芯片知識是比較接近當前的頂尖芯片水平的,同時包含了芯片架構的基礎知識,但該部分知識比較晦澀難懂,或許是由于我一直從事的事芯片
    發(fā)表于 06-18 19:31

    Imagination與澎峰科技攜手推動GPU+AI解決方案,共拓計算生態(tài)

    的深度融合展開合作。雙方將結合 Imagination 領先的 GPU IP 技術與澎峰科技在 AI 模型壓縮與性能優(yōu)化方面的軟硬協(xié)同能力,共同開拓面向 AI 行業(yè)應用的計算解決方案,推動國產
    發(fā)表于 05-21 09:40 ?1203次閱讀

    RK3588核心板在邊緣AI計算中的顛覆性優(yōu)勢與場景落地

    推理任務,需額外部署GPU加速卡,導致成本與功耗飆升。 擴展性受限:老舊接口(如USB 2.0、百兆網(wǎng)口)無法支持5G模組、高速存儲等現(xiàn)代外設,升級困難。 開發(fā)周期長:BSP適配不完善,跨平臺AI
    發(fā)表于 04-15 10:48

    高密度、低功耗,關聯(lián)AI與云計算

    在AI與云計算的深度融合中,高密度、低功耗特性正成為技術創(chuàng)新的核心驅動力,主要體現(xiàn)在以下方面: 一、云計算基礎設施的能效優(yōu)化 存儲計算密度
    的頭像 發(fā)表于 04-01 08:25 ?1009次閱讀
    高密度、低<b class='flag-5'>功耗</b>,關聯(lián)AI與云<b class='flag-5'>計算</b>

    ?為什么GPU性能效率比峰值性能更關鍵

    在評估GPU性能時,通常首先考察三個指標:圖形工作負載的紋理率(GPixel/s)、浮點運算次數(shù)(FLOPS)以及它們能處理計算和AI工作負載的每秒8-bittera運算次數(shù)(TOPS)。這些關鍵
    的頭像 發(fā)表于 03-13 08:34 ?871次閱讀
    ?為什么<b class='flag-5'>GPU</b><b class='flag-5'>性能</b>效率比峰值<b class='flag-5'>性能</b>更關鍵

    FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預測......

    ...... 2) AI超算革命:FPGA集群功耗GPU降低62%;混合精度計算效率提升5.8倍...... 3) 6G通信突破:軟件無線電實現(xiàn)Sub-6GHz/毫米波全頻段覆蓋;M
    發(fā)表于 03-03 11:21