chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀(guān)看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

LLaVA、RWKV、Qwen3... 移遠(yuǎn)端側(cè)AI大模型解決方案實(shí)現(xiàn)多維度躍遷

移遠(yuǎn)通信 ? 2025-06-23 19:07 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群


當(dāng)AI以破竹之勢(shì)席卷千行百業(yè),大模型技術(shù)正以驚人的速度迭代演進(jìn),重塑著智能世界的底層邏輯。


作為全球AIoT行業(yè)的引領(lǐng)者,移遠(yuǎn)通信通過(guò)持續(xù)迭代和探索,在端側(cè)大模型解決方案上完成“三級(jí)跳”——在多模態(tài)感知、架構(gòu)創(chuàng)新、模型兼容性三大核心維度實(shí)現(xiàn)跨越式突破,不僅重新定義了終端設(shè)備的智能化邊界,更為AI普惠化落地開(kāi)辟了全新路徑。近日,移遠(yuǎn)基于SG885G AI 算力模組的端側(cè)大模型解決方案,已成功運(yùn)行LLaVA-7B、RWKV7、Qwen3-4B等大模型。




感知維度升級(jí):引領(lǐng)多模態(tài)交互新范式


在智能終端的世界里,單一的語(yǔ)音對(duì)話(huà)或圖像識(shí)別,已無(wú)法滿(mǎn)足復(fù)雜場(chǎng)景的需求,多模態(tài)感知才是未來(lái)趨勢(shì)。移遠(yuǎn)通信敏銳捕捉行業(yè)發(fā)展脈絡(luò),在感知維度上持續(xù)創(chuàng)新,打造出“超級(jí)感官系統(tǒng)”,并不斷取得技術(shù)及應(yīng)用突破。


40155316-5022-11f0-986f-92fbcf53809c.jpg


自端側(cè)大模型解決方案發(fā)布以來(lái),移遠(yuǎn)通信基于全語(yǔ)音鏈路的方案已在德壹機(jī)器人項(xiàng)目中順利落地,賦予機(jī)器人“能說(shuō)會(huì)道”的本領(lǐng),使其語(yǔ)音交互能力更加自然、流暢。


近日,移遠(yuǎn)成功在其SG885G模組上部署7B參數(shù)多模態(tài)大模型LLaVA,讓移動(dòng)端擁有“火眼金睛”,實(shí)現(xiàn)實(shí)時(shí)物體識(shí)別與場(chǎng)景理解,完成了感知維度的再次重大升級(jí)。這一突破,讓移遠(yuǎn)成為業(yè)界首個(gè)提供端側(cè)全模態(tài)感知解決方案的模組廠(chǎng)商。


值得一提的是,移遠(yuǎn)還通過(guò)架構(gòu)級(jí)創(chuàng)新,實(shí)現(xiàn)了文本、語(yǔ)音、視覺(jué)三大模態(tài)的深度融合。這種融合并非簡(jiǎn)單的功能疊加,而是從底層架構(gòu)出發(fā),讓不同模態(tài)的信息能夠相互補(bǔ)充、相互促進(jìn),形成更全面、更準(zhǔn)確的認(rèn)知能力,使得客戶(hù)終端能夠在復(fù)雜的實(shí)際場(chǎng)景中實(shí)現(xiàn)更智能、更高效的交互。


架構(gòu)創(chuàng)新探索:開(kāi)辟端側(cè)AI計(jì)算新維度


在Transformer架構(gòu)主導(dǎo)大模型領(lǐng)域的當(dāng)下,移遠(yuǎn)通信以前瞻性的眼光,積極布局非Transformer的技術(shù)路線(xiàn),致力于為客戶(hù)提供更低算力、更少內(nèi)存消耗的解決方案。


日前,移遠(yuǎn)SG885G模組已實(shí)現(xiàn)成功運(yùn)行RWKV7模型。RWKV(Receptance Weighted Key-Value)是一種極具創(chuàng)新性的神經(jīng)網(wǎng)絡(luò)架構(gòu),巧妙地融合了循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的訓(xùn)練效率與Transformer的建模能力。其核心設(shè)計(jì)在于通過(guò)線(xiàn)性注意力機(jī)制取代傳統(tǒng)Transformer的自注意力,這一改進(jìn)有效解決了長(zhǎng)序列處理中的計(jì)算瓶頸問(wèn)題,同時(shí)還支持高效推理與并行訓(xùn)練,在計(jì)算效率和模型性能之間取得了良好的平衡。


RWKV架構(gòu)在多語(yǔ)言處理、小說(shuō)創(chuàng)作、長(zhǎng)期記憶保持等多個(gè)領(lǐng)域表現(xiàn)出色,展現(xiàn)出了廣泛的應(yīng)用前景。移遠(yuǎn)通信成功將其部署在端側(cè)模組上,意味著對(duì)于算力和內(nèi)存資源有限的“小身板”終端設(shè)備,也能擁有強(qiáng)大的AI“大心臟”。



模型生態(tài)擴(kuò)容:構(gòu)建端側(cè)大模型“超級(jí)平臺(tái)”


在模型兼容性方面,移遠(yuǎn)通信構(gòu)建了覆蓋主流開(kāi)源模型的端側(cè)適配體系,打造出了功能強(qiáng)大的端側(cè)大模型“超級(jí)平臺(tái)”。從Llama到通義千問(wèn),再到DeepSeek,移遠(yuǎn)率先完成了對(duì)主流開(kāi)源模型的全方位兼容,覆蓋參數(shù)規(guī)模從0.5B到8B,為不同場(chǎng)景的智能終端提供了豐富的模型選擇。


例如,移遠(yuǎn)通信在其SG885G AI算力模組上,成功實(shí)現(xiàn)Qwen3-4B模型的穩(wěn)定運(yùn)行,并對(duì)模型架構(gòu)和運(yùn)行環(huán)境進(jìn)行深度優(yōu)化。實(shí)測(cè)數(shù)據(jù)顯示,相比Qwen2.5,優(yōu)化后的Qwen3-4B模型,其平均響應(yīng)延遲降低了40%,交互體驗(yàn)直線(xiàn)升級(jí)。


站在AI技術(shù)變革的潮頭,移遠(yuǎn)通信始終堅(jiān)信:未來(lái)的智能,不應(yīng)局限于云端的數(shù)據(jù)中心,而應(yīng)該廣泛存在于每個(gè)終端、每個(gè)場(chǎng)景、每個(gè)人的掌心。通過(guò)持續(xù)的技術(shù)深耕與生態(tài)共建,移遠(yuǎn)通信正攜手合作伙伴,讓端側(cè)大模型成為智能時(shí)代的“新基建”,推動(dòng)AI技術(shù)在更廣闊的領(lǐng)域?qū)崿F(xiàn)普惠化應(yīng)用。


聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀(guān)點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1819

    文章

    50284

    瀏覽量

    266801
  • AIoT
    +關(guān)注

    關(guān)注

    8

    文章

    1674

    瀏覽量

    34272
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    403

    瀏覽量

    1038
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    美格智能高算力AI模組+Qwen3.5,打造端側(cè)最強(qiáng)AI智能體

    在人工智能技術(shù)飛速迭代的今天,大模型的“云端爭(zhēng)霸”已漸入深水區(qū),而一場(chǎng)關(guān)于“端側(cè)智能”的靜默革命正悄然興起。隨著Qwen3.5等高性能開(kāi)源模型的問(wèn)世,
    的頭像 發(fā)表于 02-27 08:33 ?555次閱讀
    美格智能高算力<b class='flag-5'>AI</b>模組+<b class='flag-5'>Qwen</b>3.5,打造端<b class='flag-5'>側(cè)</b>最強(qiáng)<b class='flag-5'>AI</b>智能體

    Qwen3-VL 4B/8B全面適配,BM1684X成邊緣最佳部署平臺(tái)!

    版本模型,為邊緣計(jì)算和端側(cè)設(shè)備提供了更高效的多模態(tài)AI解決方案。算能BM1684X芯片已完成對(duì)該系列模型的適配,4B/8B
    的頭像 發(fā)表于 10-16 18:00 ?3046次閱讀
    <b class='flag-5'>Qwen3</b>-VL 4B/8B全面適配,BM1684X成邊緣最佳部署平臺(tái)!

    基于米爾瑞芯微RK3576開(kāi)發(fā)板的Qwen2-VL-3B模型NPU多模態(tài)部署評(píng)測(cè)

    準(zhǔn)確率任務(wù)。 未來(lái),RK3576“算力精準(zhǔn)匹配場(chǎng)景”的設(shè)計(jì)理念或成中端AIoT核心方向,其在多維度的平衡,為端側(cè)AI部署提供高性?xún)r(jià)比選擇,助力邊緣計(jì)算規(guī)模化應(yīng)用。RK3576 工作狀態(tài)? 參考資料[1
    發(fā)表于 08-29 18:08

    阿里通義千問(wèn)發(fā)布小尺寸模型Qwen3-4B,手機(jī)也能跑

    Qwen3-30B-A3B(thinking)。官方表示,2507版本的Qwen3-4B模型對(duì)手機(jī)等端側(cè)硬件部署尤為友好。 ? ? 隨著AI
    的頭像 發(fā)表于 08-12 17:15 ?6972次閱讀
    阿里通義千問(wèn)發(fā)布小尺寸<b class='flag-5'>模型</b><b class='flag-5'>Qwen3</b>-4B,手機(jī)也能跑

    側(cè)模型迎來(lái)“輕”革命!遠(yuǎn)通信 × RWKV 打造“輕量AI大腦”

    (WAIC)首次亮相,標(biāo)志著端側(cè)模型解決方案向更高性能、更廣場(chǎng)景的應(yīng)用邁出關(guān)鍵一步。RWKV(ReceptanceWeightedKeyValue)是全球領(lǐng)先的RN
    的頭像 發(fā)表于 07-27 19:02 ?1124次閱讀
    端<b class='flag-5'>側(cè)</b>大<b class='flag-5'>模型</b>迎來(lái)“輕”革命!<b class='flag-5'>移</b>遠(yuǎn)通信 × <b class='flag-5'>RWKV</b> 打造“輕量<b class='flag-5'>AI</b>大腦”

    媒體報(bào)道 | 錨定“端側(cè)AI+機(jī)器人”,遠(yuǎn)又有大動(dòng)作!

    隨著端側(cè)AI算力的指數(shù)級(jí)突破與大模型輕量化部署技術(shù)的快速成熟,“端側(cè)AI+機(jī)器人”成為全球科技巨頭角逐的戰(zhàn)略要地,這一黃金賽道正加速?gòu)母拍钛?/div>
    的頭像 發(fā)表于 07-11 19:05 ?1093次閱讀
    媒體報(bào)道 | 錨定“端<b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>+機(jī)器人”,<b class='flag-5'>移</b>遠(yuǎn)又有大動(dòng)作!

    從端側(cè)AI到全鏈路解決方案遠(yuǎn)通信如何重塑AloT產(chǎn)業(yè)?

    的物聯(lián)網(wǎng)整體解決方案供應(yīng)商,遠(yuǎn)通信受邀出席峰會(huì)并發(fā)表兩場(chǎng)演講,圍繞端側(cè)AI、云端AI以及AI
    的頭像 發(fā)表于 07-05 19:04 ?1876次閱讀
    從端<b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>到全鏈路<b class='flag-5'>解決方案</b>:<b class='flag-5'>移</b>遠(yuǎn)通信如何重塑AloT產(chǎn)業(yè)?

    廣和通加速通義千問(wèn)Qwen3在端側(cè)全面落地

    6月,廣和通宣布:率先完成通義千問(wèn)Qwen3系列混合推理模型在高通QCS8550平臺(tái)端側(cè)的適配部署。廣和通通過(guò)定制化混合精度量化方案與創(chuàng)新硬件加速算法,成功突破
    的頭像 發(fā)表于 06-25 15:35 ?1316次閱讀

    壁仞科技完成Qwen3旗艦模型適配

    近日,在高效適配Qwen3系列模型推理后,壁仞科技宣布完成旗艦版Qwen3-235B-A22B模型的訓(xùn)練適配和優(yōu)化。由此,壁仞科技已實(shí)現(xiàn)
    的頭像 發(fā)表于 05-16 16:23 ?1130次閱讀

    Arm CPU適配通義千問(wèn)Qwen3系列模型

    與阿里巴巴開(kāi)源的輕量級(jí)深度學(xué)習(xí)框架 MNN 已深度集成。得益于此,Qwen3-0.6B、Qwen3-1.7B 及 Qwen3-4B 三款模型能夠在搭載 Arm 架構(gòu) CPU 的移動(dòng)設(shè)
    的頭像 發(fā)表于 05-12 16:37 ?1573次閱讀

    中軟國(guó)際科創(chuàng)中心上線(xiàn)阿里Qwen3-235B模型

    近日,中軟國(guó)際科創(chuàng)中心快速部署阿里Qwen3-235B模型并完成測(cè)試,為客戶(hù)提供 AI 項(xiàng)目POC的模型新選擇,助力企業(yè)快速實(shí)現(xiàn)智能化轉(zhuǎn)型,
    的頭像 發(fā)表于 05-12 15:40 ?1186次閱讀

    NVIDIA使用Qwen3系列模型的最佳實(shí)踐

    阿里巴巴近期發(fā)布了其開(kāi)源的混合推理大語(yǔ)言模型 (LLM) 通義千問(wèn) Qwen3,此次 Qwen3 開(kāi)源模型系列包含兩款混合專(zhuān)家模型 (MoE
    的頭像 發(fā)表于 05-08 11:45 ?3193次閱讀
    NVIDIA使用<b class='flag-5'>Qwen3</b>系列<b class='flag-5'>模型</b>的最佳實(shí)踐

    后摩智能NPU適配通義千問(wèn)Qwen3系列模型

    近日,阿里云重磅推出Qwen3 系列開(kāi)源混合推理模型。用時(shí)不到1天,后摩智能自研NPU迅速實(shí)現(xiàn)Qwen3 系列模型
    的頭像 發(fā)表于 05-07 16:46 ?1522次閱讀

    在openEuler上基于vLLM Ascend部署Qwen3

    近日,阿里巴巴正式發(fā)布新一代Qwen大語(yǔ)言模型系列(Qwen3Qwen3-MoE),在模型規(guī)模與性能上
    的頭像 發(fā)表于 05-07 14:44 ?2005次閱讀
    在openEuler上基于vLLM Ascend部署<b class='flag-5'>Qwen3</b>

    壁仞科技完成阿里巴巴通義千問(wèn)Qwen3全系列模型支持

    4月29日,阿里巴巴通義千問(wèn)發(fā)布并開(kāi)源8款新版Qwen3系列“混合推理模型”(簡(jiǎn)稱(chēng)“Qwen3”)。Qwen3發(fā)布后數(shù)小時(shí)內(nèi),壁仞科技完成全系列支持,并率先在壁仞科技開(kāi)發(fā)者云平臺(tái)上線(xiàn)。
    的頭像 發(fā)表于 04-30 15:19 ?1699次閱讀