資料介紹
軟件簡介
TurboTransformers 來自于深度學習自然語言處理基礎平臺 TencentNLP Oteam,旨在搭建統(tǒng)一的深度學習 NLP (Natural Language Processing,自然語言處理)基礎平臺、提升研發(fā)效能。
特性:
- 優(yōu)異的 CPU/GPU 性能表現(xiàn)。面向 Intel 多核 CPU 和 NVIDIA GPU 硬件平臺,通過核心融合和并行算法優(yōu)化,TurboTransformers 充發(fā)揮硬件的各層級并行計算的能力。在多種 CPU 和 GPU 硬件上獲得了超過 PyTorch/TensorFlow 和目前主流優(yōu)化引擎(如 onnxruntime-mkldnn/onnxruntime-gpu、torch JIT、NVIDIA faster transformers)的性能表現(xiàn)。
- 為 NLP 推理任務特點量身定制。TurboTransformers 可以支持變長輸入序列處理,無需序列補零、截斷或者分桶帶來的無用計算,也無需任何針對計算圖在推理前進行預調(diào)優(yōu)的過程。
- 簡單的使用方式。TurboTransformers 支持 Python 和 C++ 接口進行調(diào)用。TurboTransformers 支持 TensorFlow 和 PyTorch 預訓練模型的載入。它可以作為 huggingface/transformers 的推理加速插件,通過加入幾行 Python 代碼獲得對 BERT 模型的端對端加速效果。

下載該資料的人也在下載
下載該資料的人還在閱讀
更多 >
- 拼版工具 0次下載
- pcb阻抗計算工具
- 差分線阻抗計算工具
- 電容阻抗計算工具
- 過孔阻抗計算工具
- pcb設計分析工具
- pcb設計工具
- Inductor and Flyback Transformer Design .pdf
- EDA工具CADENCE原理圖與PCB設計說明 61次下載
- 變壓器(Transformer)基礎知識詳解 54次下載
- 液晶電視升級工具mboot使用及強制升級方法 14次下載
- 藍牙調(diào)試工具BTool v1.40.5資源下載 30次下載
- 16位CRC驗證碼生成VI工具下載 57次下載
- 軟件工具Altium Designer免費下載入口 95次下載
- 高頻變壓器設計軟件PI Transformer Design
- Transformer架構(gòu)概述 1.1k次閱讀
- Transformer語言模型簡介與實現(xiàn)過程 3.8k次閱讀
- 使用PyTorch搭建Transformer模型 3.3k次閱讀
- 基于Transformer模型的壓縮方法 1.4k次閱讀
- 更深層的理解視覺Transformer, 對視覺Transformer的剖析 1.5k次閱讀
- 降低Transformer復雜度O(N^2)的方法匯總 2.7k次閱讀
- Faster Transformer v1.0源碼詳解 2k次閱讀
- transformer模型詳解:Transformer 模型的壓縮方法 3.5k次閱讀
- 關(guān)于Python 加速工具的選單 825次閱讀
- 基于 Transformer 的分割與檢測方法 2k次閱讀
- 2D Transformer 可以幫助3D表示學習嗎? 1.6k次閱讀
- 利用Transformer和CNN 各自的優(yōu)勢以獲得更好的分割性能 7.9k次閱讀
- Transformer常用的輕量化方法 7.4k次閱讀
- 使用推理服務器加速大型Transformer模型的推理 1.9k次閱讀
- 教你如何使用Python搭一個Transformer 7.7k次閱讀
下載排行
本周
- 1新一代網(wǎng)絡可視化(NPB 2.0)
- 3.40 MB | 1次下載 | 免費
- 2冷柜-電氣控制系統(tǒng)講解
- 13.68 MB | 1次下載 | 10 積分
- 3MDD品牌三極管MMBT3906數(shù)據(jù)手冊
- 2.33 MB | 次下載 | 免費
- 4MDD品牌三極管S9012數(shù)據(jù)手冊
- 2.62 MB | 次下載 | 免費
- 5LAT1218 如何選擇和設置外部晶體適配 BlueNRG-X
- 0.60 MB | 次下載 | 3 積分
- 6LAT1216 Blue NRG-1/2 系列芯片 Flash 操作與 BLE 事件的互斥處理
- 0.89 MB | 次下載 | 3 積分
- 7收音環(huán)繞擴音機 AVR-1507手冊
- 2.50 MB | 次下載 | 免費
- 8MS1000TA 超聲波測量模擬前端芯片技術(shù)手冊
- 0.60 MB | 次下載 | 免費
本月
- 1愛華AIWA HS-J202維修手冊
- 3.34 MB | 37次下載 | 免費
- 2PC5502負載均流控制電路數(shù)據(jù)手冊
- 1.63 MB | 23次下載 | 免費
- 3NB-IoT芯片廠商的資料說明
- 0.31 MB | 22次下載 | 1 積分
- 4UWB653Pro USB口測距通信定位模塊規(guī)格書
- 838.47 KB | 5次下載 | 免費
- 5蘇泊爾DCL6907(即CHK-S007)單芯片電磁爐原理圖資料
- 0.04 MB | 4次下載 | 1 積分
- 6蘇泊爾DCL6909(即CHK-S009)單芯片電磁爐原理圖資料
- 0.08 MB | 2次下載 | 1 積分
- 7100W準諧振反激式恒流電源電路圖資料
- 0.09 MB | 2次下載 | 1 積分
- 8FS8025B USB的PD和OC快充協(xié)議電壓誘騙控制器IC技術(shù)手冊
- 1.81 MB | 1次下載 | 免費
總榜
- 1matlab軟件下載入口
- 未知 | 935137次下載 | 10 積分
- 2開源硬件-PMP21529.1-4 開關(guān)降壓/升壓雙向直流/直流轉(zhuǎn)換器 PCB layout 設計
- 1.48MB | 420064次下載 | 10 積分
- 3Altium DXP2002下載入口
- 未知 | 233089次下載 | 10 積分
- 4電路仿真軟件multisim 10.0免費下載
- 340992 | 191439次下載 | 10 積分
- 5十天學會AVR單片機與C語言視頻教程 下載
- 158M | 183353次下載 | 10 積分
- 6labview8.5下載
- 未知 | 81602次下載 | 10 積分
- 7Keil工具MDK-Arm免費下載
- 0.02 MB | 73822次下載 | 10 積分
- 8LabVIEW 8.6下載
- 未知 | 65991次下載 | 10 積分
電子發(fā)燒友App





創(chuàng)作
發(fā)文章
發(fā)帖
提問
發(fā)資料
發(fā)視頻
上傳資料賺積分
評論