chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

躍昉科技實現(xiàn)DeepSeek大模型本地化運行

躍昉科技LeapFive ? 來源:躍昉科技LeapFive ? 2025-03-06 14:47 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

LeapFive

從“云端排隊”到“擁有私人 Co-Pilot”,邊緣AI也能行!

DeepSeek 問答響應(yīng)又超時了?

“無需機房,無需服務(wù)器,一枚U盤即可驅(qū)動DeepSeek大模型?” 是的,我們做到了!

躍昉科技,作為國內(nèi)領(lǐng)先的RISC-V架構(gòu)SoC芯片公司,成功將DeepSeek大模型本地化運行,以U盤形態(tài)重新定義AI計算的使用方式。

AMC(AI Mini Computer)由躍昉科技基于自研RISC-V芯片打造,通過USB 直連主機,兼容多種操作系統(tǒng),支持本地化人工智能推理應(yīng)用部署,如基于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的視覺應(yīng)用?,F(xiàn)在,AMC又有了大模型應(yīng)用的加持,不依賴云端、不受網(wǎng)絡(luò)波動,即插即用,隨時推理。讓普通電腦秒變AI工作站,讓AI隨時待命,快速響應(yīng),成為你的專屬智能助手(Co-Pilot)!

小身材藏著大機會|“可用”到“好用”的進行時

即插即用,無需服務(wù)器,USB接入,10秒完成部署。

3W超低功耗,計算性能表現(xiàn)與模型本身,都具備優(yōu)化潛力。

本地私有知識庫,保護數(shù)據(jù)隱私,隨身攜帶,安全可控。

網(wǎng)頁本地化訪問(測試版),相比云端排隊、等待響應(yīng),你的AI助手隨時在線。

e5c116e6-f998-11ef-9310-92fbcf53809c.jpg

*已經(jīng)實際部署運行成功的模型

UI 界面:設(shè)計簡潔直觀,用戶可快速上手,無需復(fù)雜配置,Less is More。

OTA + 場景化模型,開啟邊緣AI計算新范式!

在 AI 計算邁向多場景應(yīng)用的今天,開發(fā)者希望更靈活地訓(xùn)練和部署模型,用戶則期待AI能夠精準(zhǔn)適配個性化需求。然而,傳統(tǒng)AI計算依賴云端,高算力成本、網(wǎng)絡(luò)延遲、數(shù)據(jù)隱私等問題,使其難以真正落地到邊緣多樣化應(yīng)用場景。

部署DeepSeek到AMC的過程,也引發(fā)了我們更深層的思考并發(fā)現(xiàn):DeepSeek 的小型化、低成本、邊緣設(shè)備 OTA(Over the Air 空中升級) 特性,有機會成為邊緣AI計算全新的應(yīng)用落地方法,推動AI計算從云端走向邊緣,讓AI適配更精細、更靈活地適配本地化應(yīng)用。

e5e890ea-f998-11ef-9310-92fbcf53809c.png

“大而全”的模型并不適用于邊緣AI應(yīng)用,應(yīng)該按場景的需要做更適配、更精巧、更高效的模型

邊緣 AI 計算的核心在于精準(zhǔn)解決特定場景問題,那么合適的模型從何而來?我們認為可以通過開放的場景化模型市場,吸引更多的開發(fā)者加入進來,針對教育、工業(yè)、辦公、個人助手等不同需求,訓(xùn)練更精巧的 AI 模型,以適配本地場景化的應(yīng)用需求。

OTA有可能成為AI場景動態(tài)適配的標(biāo)準(zhǔn)方式

傳統(tǒng)OTA僅用于遠程軟件升級,如果考慮邊緣AI基于場景化的應(yīng)用,則OTA就需要一個新增的按需拉取和部署AI模型的能力,使邊緣設(shè)備盡管在硬件資源限制條件下,仍可以通過動態(tài)的模型選擇,得到較好的AI交互體驗。

商業(yè)模式也將有革新機會,邊緣AI的生態(tài)將創(chuàng)造更高價值

“OTA + 場景化模型”這樣的新范式,將為邊緣AI計算構(gòu)建開放的,可訂閱、可迭代的模型市場提供可行性。用戶可以低成本試用AI模型,再按需訂閱,而開發(fā)者則可以通過市場提供AI模型,并接受用戶的反饋不斷優(yōu)化模型體驗,形成邊緣AI計算的正向循環(huán),加速AI在邊緣端的落地應(yīng)用。

我們認為未來的AI計算,不應(yīng)該只存在于云端之上,更應(yīng)該真正地屬于個人!

而對于個人用戶來說,專屬AI 將可以變成個人成長的長期伙伴

每個人的知識、經(jīng)驗、決策方式都是獨一無二的,所以AI應(yīng)用也應(yīng)該能做到個性化的應(yīng)用。AMC的隨身攜帶可以讓AI在不同場景中適應(yīng)用戶需求,即時響應(yīng)、智能輔助。與此同時,AMC通過長期數(shù)據(jù)存儲與學(xué)習(xí),不斷沉淀、優(yōu)化,逐步構(gòu)建屬于個人的Digital Twins(數(shù)字孿生),讓AI計算真正理解,持續(xù)成長,成為個人的長期智慧資產(chǎn)。

離線運行,多場景隨時調(diào)用,無論辦公、學(xué)習(xí)還是工業(yè)應(yīng)用,AI即插即用,不依賴云端。

存儲與回傳,依托AMC本體32GB的存儲能力,使用過程中的數(shù)據(jù)可本地化存儲,也可主動同步到個人主機,形成專屬AI記憶 。

讓AI模型個性化成長,成為“最懂你的聰明助手”并且隨時隨地即時響應(yīng)。

從 “大而全” 到 “小而精”,我們看到了AMC在AI計算領(lǐng)域的潛力,有望讓AI計算變得更精準(zhǔn)、更高效。場景化模型 OTA能讓開發(fā)者更快構(gòu)建AI,用戶更自由地使用AI,推動AI計算從通用向定制、從固定向靈活、從單一向多元發(fā)展,真正賦能千行百業(yè)。

躍昉科技,依托RISC-V計算架構(gòu),不斷探索芯片、邊緣AI計算與智能互聯(lián)的創(chuàng)新融合,加速推動國產(chǎn)AI計算自主化。我們相信,未來的AI計算不再是一種昂貴的資源,而是普惠的能力。個性化的智能,是一股驅(qū)動世界躍向更智能未來的核心動力!

廣東躍昉科技有限公司聚焦研發(fā)基于RISC-V架構(gòu)的SoC芯片產(chǎn)品及系統(tǒng)解決方案,并提供從操作系統(tǒng)到云平臺的全?;A(chǔ)智能軟件服務(wù),通過融合人工智能、物聯(lián)網(wǎng)區(qū)塊鏈等交叉領(lǐng)域技術(shù)為中國數(shù)字經(jīng)濟的創(chuàng)新應(yīng)用賦能。

躍昉科技作為RISC-V架構(gòu)SoC芯片設(shè)計及產(chǎn)業(yè)應(yīng)用的開拓者,已推出系列基于RISC-V架構(gòu)的高性能SoC芯片及產(chǎn)品,覆蓋AIoT邊端物聯(lián)、控制和計算等應(yīng)用領(lǐng)域,集高效能計算資源、豐富工業(yè)接口、穩(wěn)定可靠品質(zhì)等特性于一體。依托于全棧技術(shù)能力,躍昉科技正持續(xù)深耕于智慧能源、智慧物流、智慧城市、智慧工廠等領(lǐng)域,旨在為客戶帶來專業(yè)化、高品質(zhì)的產(chǎn)品和服務(wù)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • RISC-V
    +關(guān)注

    關(guān)注

    49

    文章

    2939

    瀏覽量

    53512
  • 躍昉科技
    +關(guān)注

    關(guān)注

    0

    文章

    86

    瀏覽量

    3283
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3746

    瀏覽量

    5268
  • DeepSeek
    +關(guān)注

    關(guān)注

    2

    文章

    837

    瀏覽量

    3391

原文標(biāo)題:RISC-V計算新突破!躍昉AMC將DeepSeek大模型裝進口袋

文章出處:【微信號:躍昉科技LeapFive,微信公眾號:躍昉科技LeapFive】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    如何在ZYNQ本地部署DeepSeek模型

    一個將最小號 DeepSeek 模型部署到 AMD Zynq UltraScale+ MPSoC 處理系統(tǒng)的項目。
    的頭像 發(fā)表于 12-19 15:43 ?7792次閱讀
    如何在ZYNQ<b class='flag-5'>本地</b>部署<b class='flag-5'>DeepSeek</b><b class='flag-5'>模型</b>

    科技與米立科技達成戰(zhàn)略合作

    2025年12月9日,廣東科技有限公司與福州米立科技股份有限公司正式簽署戰(zhàn)略合作協(xié)議,共同宣布在智慧社區(qū)與物聯(lián)網(wǎng)領(lǐng)域展開深度合作。科技事業(yè)部總經(jīng)理劉清波與米立科技副總經(jīng)理李偉代
    的頭像 發(fā)表于 12-16 11:15 ?511次閱讀

    發(fā)布元服務(wù)配置本地化基礎(chǔ)信息(應(yīng)用名稱、圖標(biāo))

    您可以添加元服務(wù)支持的語言,并配置對應(yīng)語言的本地化信息。 例如,當(dāng)您設(shè)置簡體中文為默認語言,并且只配置中文的本地化信息,那么元服務(wù)在所有設(shè)置的發(fā)布國家或地區(qū)的信息都將顯示中文。如果您還設(shè)置了英文
    發(fā)表于 10-24 17:42

    DeepSeek模型如何在云服務(wù)器上部署?

    隨著大型語言模型(LLM)的應(yīng)用日益普及,許多開發(fā)者和企業(yè)希望將像DeepSeek這樣的優(yōu)秀模型部署到自己的云服務(wù)器上,以實現(xiàn)私有、定制
    的頭像 發(fā)表于 10-13 16:52 ?1114次閱讀

    廣和通成功部署DeepSeek-R1-0528-Qwen3-8B模型

    近日,廣和通在MediaTek MT8893平臺上成功部署并運行DeepSeek-R1-0528-Qwen3-8B模型,顯著提升了端側(cè)AI設(shè)備的處理效率與智能水平,特別是在
    的頭像 發(fā)表于 09-26 13:35 ?975次閱讀

    全球首款RiSC-V企業(yè)級模擬平臺,科技LeapEMU正式亮相

    9月19日,廣東科技在珠海舉辦的“RISC-V軟件生態(tài)研討會上”,公司正式發(fā)布了全球首款支持超128核RiSC-V RVA23企業(yè)級模擬平臺LeapEMU。科技創(chuàng)始人兼CEO江
    的頭像 發(fā)表于 09-25 00:32 ?4222次閱讀
    全球首款RiSC-V企業(yè)級模擬平臺,<b class='flag-5'>躍</b><b class='flag-5'>昉</b>科技LeapEMU正式亮相

    本地部署openWebUI + ollama+DeepSeek 打造智能知識庫并實現(xiàn)遠程訪問

    。 DeepSeek 作為一個開源的大語言模型,我們可以通過 ZeroNews + openWebUI + ollama的方式,輕松的在本地私有部署
    的頭像 發(fā)表于 09-10 16:41 ?5504次閱讀
    <b class='flag-5'>本地</b>部署openWebUI + ollama+<b class='flag-5'>DeepSeek</b> 打造智能知識庫并<b class='flag-5'>實現(xiàn)</b>遠程訪問

    能源監(jiān)測管理平臺是本地化部署好還是云端部署好?

    能源監(jiān)測管理平臺本地化部署和云端部署各有優(yōu)劣,企業(yè)需根據(jù)自身需求和實際情況來選擇。如果企業(yè)對數(shù)據(jù)安全要求極高、網(wǎng)絡(luò)環(huán)境特殊且預(yù)算充足,本地化部署可能更合適;若企業(yè)注重靈活性、成本效益和便捷訪問,云端
    的頭像 發(fā)表于 07-22 15:16 ?645次閱讀
    能源監(jiān)測管理平臺是<b class='flag-5'>本地化</b>部署好還是云端部署好?

    傳音控股本地化戰(zhàn)略的跨區(qū)域成功:驅(qū)動?xùn)|南亞、南亞數(shù)字浪潮 ?

    全球新興市場智能終端競爭進入新階段,傳音控股繼續(xù)憑借“本地化”戰(zhàn)略優(yōu)勢書寫著從非洲到全球的擴張傳奇。與印尼電信巨頭IOH達成戰(zhàn)略合作、優(yōu)化游戲體驗、研發(fā)全膚色影像技術(shù),傳音正在將成熟的本地化模式成功
    的頭像 發(fā)表于 07-18 16:09 ?1174次閱讀
    傳音控股<b class='flag-5'>本地化</b>戰(zhàn)略的跨區(qū)域成功:驅(qū)動?xùn)|南亞、南亞數(shù)字<b class='flag-5'>化</b>浪潮 ?

    AI+能源數(shù)字破局者故事5:斯倫貝謝 x IBM 咨詢之 “全球經(jīng)營與本地化適配”

    斯倫貝謝與 IBM 的合作建立在技術(shù)專長、交付能力及本地化支持的基礎(chǔ)上,IBM 的強大技術(shù)實力和本地經(jīng)驗,使其成為斯倫貝謝推動數(shù)字轉(zhuǎn)型的重要合作伙伴
    的頭像 發(fā)表于 07-17 19:02 ?1565次閱讀

    施耐德電氣與奇安信共建技術(shù)本地化創(chuàng)新中心

    ?在施耐德電氣技術(shù)本地化創(chuàng)新日上 ; 施耐德電氣與奇安信集團宣布成立 施耐德電氣(中國)技術(shù)本地化創(chuàng)新中心。 該中心將提供 針對國產(chǎn)基礎(chǔ)軟硬件的深度適配服務(wù),以信息技術(shù)共創(chuàng)和生態(tài)協(xié)同為核心 ,更好
    的頭像 發(fā)表于 07-10 19:01 ?1142次閱讀
    施耐德電氣與奇安信共建技術(shù)<b class='flag-5'>本地化</b>創(chuàng)新中心

    曙光AI解決方案助力北京農(nóng)商銀行提升業(yè)務(wù)效率

    今年以來,以DeepSeek為代表的人工智能大模型蓬勃發(fā)展。為搶抓技術(shù)變革窗口期,北京農(nóng)商銀行基于曙光AI解決方案的強勁算力,利用DeepAI深算智能引擎快速實現(xiàn)DeepSeek R1
    的頭像 發(fā)表于 07-09 16:59 ?1225次閱讀

    ElfBoard技術(shù)實戰(zhàn)|ELF 2開發(fā)板本地部署DeepSeek模型的完整指南

    ELF 2開發(fā)板本地部署DeepSeek模型的完整指南
    的頭像 發(fā)表于 05-16 11:13 ?2736次閱讀
    ElfBoard技術(shù)實戰(zhàn)|ELF 2開發(fā)板<b class='flag-5'>本地</b>部署<b class='flag-5'>DeepSeek</b>大<b class='flag-5'>模型</b>的完整指南

    科技推動數(shù)字云平臺落地應(yīng)用

    科技與開源社區(qū)的共同努力下,國產(chǎn)時序數(shù)據(jù)庫IoTDB已成功適配RISC-V高性能平臺。這一成果為基于RISC-V的數(shù)字云平臺部署奠定了堅實的技術(shù)基礎(chǔ)。
    的頭像 發(fā)表于 04-28 14:05 ?1043次閱讀
    <b class='flag-5'>躍</b><b class='flag-5'>昉</b>科技推動數(shù)字<b class='flag-5'>化</b>云平臺落地應(yīng)用

    DeepSeek R1模型本地部署與產(chǎn)品接入實操

    針對VS680/SL1680系列大算力芯片,我們的研發(fā)團隊正在研究將蒸餾后的輕量級DeepSeek模型DeepSeek-R1-Distill-Qwen-1.5B)部署到SOC本地,以
    的頭像 發(fā)表于 04-19 16:32 ?860次閱讀
    <b class='flag-5'>DeepSeek</b> R1<b class='flag-5'>模型</b><b class='flag-5'>本地</b>部署與產(chǎn)品接入實操