英偉達發(fā)布DeepSeek R1于NIM平臺
英偉達近日宣布，其DeepSeek R1 671b版本已正式上線英偉達NIM(NVIDIA Inference Microservices)平臺，并以預(yù)覽版的形式在build.nvidia.com網(wǎng)站上發(fā)布。
據(jù)悉，DeepSeek R1 NIM微服務(wù)是英偉達在人工智能領(lǐng)域的一項重要創(chuàng)新，旨在為用戶提供高效、精準的推理服務(wù)。在單個英偉達HGX H200系統(tǒng)上，該微服務(wù)每秒最多可處理3872個token，展現(xiàn)出強大的處理能力和高效性。
此次上線的DeepSeek R1 NIM微服務(wù)預(yù)覽版，允許開發(fā)人員對其進行測試和實驗，以更好地了解其性能和功能。英偉達表示，未來該API將作為英偉達AI Enterprise軟件平臺的一部分，以可下載的NIM微服務(wù)形式正式推出，為用戶提供更加便捷、高效的使用體驗。
英偉達一直致力于推動人工智能技術(shù)的發(fā)展和應(yīng)用，此次發(fā)布的DeepSeek R1 NIM微服務(wù)預(yù)覽版，不僅展示了英偉達在人工智能領(lǐng)域的強大技術(shù)實力，也為用戶提供了更加高效、精準的推理服務(wù)。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
軟件
+關(guān)注
關(guān)注
69文章
5328瀏覽量
91482 -
NIM
+關(guān)注
關(guān)注
0文章
10瀏覽量
8249 -
人工智能
+關(guān)注
關(guān)注
1816文章
50054瀏覽量
264822 -
英偉達
+關(guān)注
關(guān)注
23文章
4077瀏覽量
99038 -
DeepSeek
+關(guān)注
關(guān)注
2文章
833瀏覽量
3216
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
DeepSeek R1 MTP在TensorRT-LLM中的實現(xiàn)與優(yōu)化
TensorRT-LLM 在 NVIDIA Blackwell GPU 上創(chuàng)下了 DeepSeek-R1 推理性能的世界紀錄，Multi-Token Prediction (MTP) 實現(xiàn)了大幅提速
如何在NVIDIA Blackwell GPU上優(yōu)化DeepSeek R1吞吐量
開源 DeepSeek R1 模型的創(chuàng)新架構(gòu)包含多頭潛在注意力機制 (MLA) 和大型稀疏混合專家模型 (MoE)，其顯著提升了大語言模型 (LLM) 的推理效率。
速看！EASY-EAI教你離線部署Deepseek R1大模型
1.Deepseek簡介DeepSeek-R1，是幻方量化旗下AI公司深度求索（DeepSeek）研發(fā)的推理模型。DeepSeek-R1采用強化學(xué)習進行后訓(xùn)練，旨在提升推理能力，尤其擅
DeepSeek開源新版R1 媲美OpenAI o3
DeepSeek“悄悄”地又放了一個大招，DeepSeek開源了R1最新0528版本。盡管DeepSeek目前還沒有對該版本進行任何說明，但是根據(jù)著名代碼測試
DeepSeek創(chuàng)始人梁文鋒入選《時代》最具影響力100人
大模型，在使用少部分英偉達尖端芯片情況下，通過更高效地處理數(shù)據(jù)，使得DeepSeek的性能與OpenAI的ChatGPT可以相媲美。 而且業(yè)界也多認為DeepSeek的
SL1680 SoC本地運行DeepSeek R1 1.5B大模型
深蕾半導(dǎo)體SL1680 SoC本地成功運行DeepSeek R1 Distill Qwen2.5 1.5B大模型，展示了執(zhí)行過程及本地小參數(shù)大模型與云端大模型結(jié)合的應(yīng)用場景，并簡要介紹了ASTRA SL1680 SoC的性能特點。
科大訊飛深度解析DeepSeek-V3/R1推理系統(tǒng)成本
本篇分析來自科大訊飛技術(shù)團隊，深度解析了DeepSeek-V3 / R1 推理系統(tǒng)成本，旨在助力開發(fā)者實現(xiàn)高性價比的MoE集群部署方案。感謝訊飛研究院副院長&AI工程院常務(wù)副院長龍明康、AI工程院AI云平臺研發(fā)部總監(jiān)李珍松、訊飛
英偉達、高通布局AI投資版圖，這些明星企業(yè)被收入囊中！
電子發(fā)燒友原創(chuàng) 章鷹 今年以來，AI界新秀DeepSeek帶來的大模型平權(quán)推動AI應(yīng)用，云計算市場景氣度上行，推動資本開支增長。對于DeepSeek的橫空出世，英偉達CEO黃仁勛表示，
顯存也能疊疊樂，雙 Intel Arc A770 顯卡低成本部署 DeepSeek R1 32B 蒸餾模型體驗
今年春節(jié)后，DeepSeek R1 風暴般地席卷全國，小到手機 App，大到新能源汽車，似乎一夜間所有產(chǎn)品都接入了 DeepSeek R1。不得不說
RK3588開發(fā)板上部署DeepSeek-R1大模型的完整指南
擴展規(guī)劃、嵌入式適配等技術(shù)維度的突破。
RK3588作為瑞芯微推出的旗艦級芯片，憑借多核異構(gòu)計算能力以及強大的CPU、GPU和NPU性能，成為嵌入式AI應(yīng)用的理想平臺。DeepSeek-R1
發(fā)表于 02-27 16:45
9.9萬元用上“滿血”DeepSeek R1一體機，本地部署成新商機？引發(fā)外媒熱議
近期，確實有關(guān)于9.9萬元即可用上“滿血”DeepSeek R1一體機的報道，這一消息不僅在國內(nèi)引起了廣泛關(guān)注，也引發(fā)了外媒的熱議。以下是對此話題的詳細分析： 一、DeepSeek R1
突發(fā)！英偉達H20芯片在華訂單大增，買家曝光
人們對 DeepSeek 可能致使人工智能芯片需求下滑的擔憂。 此前，DeepSeek 爆火給英偉達帶來了不小的沖擊。2025 年 1 月，
立功科技ZDP14x0接入Deepseek R1大模型
在當今快節(jié)奏的研發(fā)環(huán)境中，工程師們面臨著日益復(fù)雜的技術(shù)挑戰(zhàn)。為了應(yīng)對這些挑戰(zhàn)，提高開發(fā)效率并快速解決各種疑問，基于Deepseek R1大模型的ZDP14x0知識庫應(yīng)運而生，成為工程師們的得力助手。
工商網(wǎng)監(jiān)
評論