chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

搜索歷史

清空
搜索熱詞
      0
      • 聊天消息
      • 系統(tǒng)消息
      • 評(píng)論與回復(fù)
      VIP于 到期 續(xù)費(fèi)
      登錄后你可以
      • 下載海量資料
      • 學(xué)習(xí)在線課程
      • 觀看技術(shù)視頻
      • 寫文章/發(fā)帖/加入社區(qū)
      會(huì)員中心
      創(chuàng)作中心
      發(fā)布
      創(chuàng)作活動(dòng)

      完善資料讓更多小伙伴認(rèn)識(shí)你，還能領(lǐng)取20積分哦，立即完善>

      3天內(nèi)不再提示

      AI推理框架軟件ONNX Runtime正式支持龍架構(gòu)

      龍芯中科 ? 來源：龍芯中科 ? 2024-03-12 12:23 ? 次閱讀
      加入交流群
      微信小助手二維碼

      掃碼添加小助手

      加入工程師交流群

      近日，知名AI推理框架開源社區(qū)ONNX Runtime正式發(fā)布支持龍架構(gòu)的版本1.17.0。今后，用戶可以直接使用ONNX Runtime開源社區(qū)發(fā)布的版本在龍芯平臺(tái)完成AI推理類應(yīng)用的開發(fā)和部署，標(biāo)志著龍架構(gòu)軟件生態(tài)得到進(jìn)一步完善。

      f9225b04-e027-11ee-a297-92fbcf53809c.png

      ONNX Runtime（ORT）是近年來興起的AI推理框架軟件，被大量AI應(yīng)用作為基礎(chǔ)AI推理引擎。ORT可支持PyTorch、Tensorflow、TFLite等多種格式的模型輸入，以及CPU、GPU、IoT、NPU、FPGA等多樣化算力后端。

      在ONNX Runtime 社區(qū)1.17.0版本的研制過程中，龍芯中科技術(shù)團(tuán)隊(duì)與社區(qū)保持緊密合作，期間向ONNX Runtime社區(qū)代碼倉(cāng)庫(kù)提交了7697行代碼，對(duì)矩陣乘法、卷積、轉(zhuǎn)置等核心算子進(jìn)行深度向量?jī)?yōu)化。在社區(qū)支持下，龍架構(gòu)優(yōu)化代碼通過了檢視、測(cè)試驗(yàn)證等質(zhì)量保證流程，ONNX Runtime社區(qū)自1.17.0版本起正式實(shí)現(xiàn)對(duì)龍架構(gòu)的原生支持。

      未來，龍芯中科將繼續(xù)與AI領(lǐng)域的國(guó)際開源軟件社區(qū)攜手合作，助力AI領(lǐng)域的生態(tài)發(fā)展和技術(shù)創(chuàng)新，為用戶帶來更優(yōu)產(chǎn)品，實(shí)現(xiàn)更大價(jià)值。




      審核編輯：劉清

      聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
      • FPGA
        +關(guān)注

        關(guān)注

        1660

        文章

        22394

        瀏覽量

        635403
      • 龍芯中科
        +關(guān)注

        關(guān)注

        0

        文章

        363

        瀏覽量

        8520
      • NPU
        NPU
        +關(guān)注

        關(guān)注

        2

        文章

        372

        瀏覽量

        21042

      原文標(biāo)題：AI推理框架軟件ONNX Runtime正式支持龍架構(gòu)

      文章出處：【微信號(hào)：gh_53fadbdbd4d4，微信公眾號(hào)：龍芯中科】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。

      收藏 人收藏
      加入交流群
      微信小助手二維碼

      掃碼添加小助手

      加入工程師交流群

        評(píng)論

        相關(guān)推薦
        熱點(diǎn)推薦

        AI推理的存儲(chǔ)，看好SRAM？

        電子發(fā)燒友網(wǎng)報(bào)道（文/黃晶晶）近幾年，生成式AI引領(lǐng)行業(yè)變革，AI訓(xùn)練率先崛起，帶動(dòng)高帶寬內(nèi)存HBM一飛沖天。但我們知道AI推理的廣泛應(yīng)用才能推動(dòng)A
        的頭像 發(fā)表于 03-03 08:51 ?2942次閱讀
        <b class='flag-5'>AI</b><b class='flag-5'>推理</b>的存儲(chǔ)，看好SRAM？

        使用NORDIC AI的好處

        × 在 CPU 上運(yùn)行時(shí)可快 10×、更省電，平均模型體積 <5 KB。[Edge AI 軟件頁] Axon NPU 對(duì)同一 TensorFlow Lite 模型：* 推理速度最高可比
        發(fā)表于 01-31 23:16

        算力積木+3D堆疊！GPNPU架構(gòu)創(chuàng)新，應(yīng)對(duì)AI推理需求

        落地的關(guān)鍵瓶頸。在此背景下，云天勵(lì)飛推出其第五代芯片架構(gòu)——GPNPU（General-Purpose Neural Processing Unit，通用神經(jīng)網(wǎng)絡(luò)處理單元），以一場(chǎng)底層架構(gòu)的革命，試圖重塑AI算力格局，推動(dòng)大模型
        的頭像 發(fā)表于 12-11 08:57 ?7802次閱讀

        Alif Semiconductor的Ensemble MCU新增對(duì)ExecuTorch Runtime的支持，助力其推動(dòng)邊緣生成式AI發(fā)展

        ·?Ensemble E4/E6/E8是業(yè)界首個(gè)為Transformer網(wǎng)絡(luò)提供硬件加速的MCU系列，可在邊緣設(shè)備及終端設(shè)備上實(shí)現(xiàn)本地生成式AI推理 ·?Alif與Arm合作，在PyTorch大會(huì)上
        的頭像 發(fā)表于 11-04 11:44 ?1409次閱讀
        Alif Semiconductor的Ensemble MCU新增對(duì)ExecuTorch <b class='flag-5'>Runtime</b>的<b class='flag-5'>支持</b>，助力其推動(dòng)邊緣生成式<b class='flag-5'>AI</b>發(fā)展

        NVIDIA TensorRT LLM 1.0推理框架正式上線

        TensorRT LLM 作為 NVIDIA 為大規(guī)模 LLM 推理打造的推理框架，核心目標(biāo)是突破 NVIDIA 平臺(tái)上的推理性能瓶頸。為實(shí)現(xiàn)這一目標(biāo)，其構(gòu)建了多維度的核心實(shí)現(xiàn)路徑：一
        的頭像 發(fā)表于 10-21 11:04 ?1136次閱讀

        onnx模型轉(zhuǎn)換rknn模型出現(xiàn)問題

        the inputs/outputs or the model. 我并沒有找到解決方案,我嘗試了直接使用onnxruntime進(jìn)行onnx推理，可以完成，但是為什么onnx轉(zhuǎn)換為rknn時(shí)會(huì)報(bào)錯(cuò)。這些事一些相關(guān)
        發(fā)表于 08-11 11:25

        請(qǐng)問如何在RK3588上使用npu，用onnx模型來推理

        請(qǐng)問如何在瑞芯微 RK3588上使用npu，用onnx模型來推理。官網(wǎng)上介紹說要把ONNX模型轉(zhuǎn)換成RKNN模型。但是我并不想這么干，請(qǐng)問有什么辦法嗎？
        發(fā)表于 08-09 00:51

        信而泰×DeepSeek：AI推理引擎驅(qū)動(dòng)網(wǎng)絡(luò)智能診斷邁向 “自愈”時(shí)代

        DeepSeek-R1：強(qiáng)大的AI推理引擎底座DeepSeek是由杭州深度求索人工智能基礎(chǔ)技術(shù)研究有限公司開發(fā)的新一代AI大模型。其核心優(yōu)勢(shì)在于強(qiáng)大的推理引擎能力，融合了自然語言處理（
        發(fā)表于 07-16 15:29

        Nordic收購(gòu) Neuton.AI 關(guān)于產(chǎn)品技術(shù)的分析

        Nordic Semiconductor 于 2025 年收購(gòu)了 Neuton.AI，這是一家專注于超小型機(jī)器學(xué)習(xí)（TinyML）解決方案的公司。 Neuton 開發(fā)了一種獨(dú)特的神經(jīng)網(wǎng)絡(luò)框架，能夠
        發(fā)表于 06-28 14:18

        潤(rùn)和軟件StackRUNS異構(gòu)分布式推理框架的應(yīng)用案例

        江蘇潤(rùn)和軟件股份有限公司（以下簡(jiǎn)稱“潤(rùn)和軟件”）自主研發(fā)的StackRUNS異構(gòu)分布式推理框架已在實(shí)際場(chǎng)景中取得顯著成效，成功應(yīng)用于大型園區(qū)多模態(tài)模型演練及高校滿血版DeepSeek-
        的頭像 發(fā)表于 06-13 09:11 ?1277次閱讀
        潤(rùn)和<b class='flag-5'>軟件</b>StackRUNS異構(gòu)分布式<b class='flag-5'>推理</b><b class='flag-5'>框架</b>的應(yīng)用案例

        潤(rùn)和軟件發(fā)布StackRUNS異構(gòu)分布式推理框架

        當(dāng)下，AI模型規(guī)模持續(xù)膨脹、多模態(tài)應(yīng)用場(chǎng)景日益復(fù)雜，企業(yè)正面臨異構(gòu)算力資源碎片化帶來的嚴(yán)峻挑戰(zhàn)。為應(yīng)對(duì)行業(yè)痛點(diǎn)，江蘇潤(rùn)和軟件股份有限公司（以下簡(jiǎn)稱“潤(rùn)和軟件”）正式發(fā)布自主研發(fā)的StackRUNS異構(gòu)分布式
        的頭像 發(fā)表于 06-13 09:10 ?1436次閱讀
        潤(rùn)和<b class='flag-5'>軟件</b>發(fā)布StackRUNS異構(gòu)分布式<b class='flag-5'>推理</b><b class='flag-5'>框架</b>

        【米爾MYC-YM90X安路飛龍DR1開發(fā)板】安路科技 SALDRAGON開發(fā)板介紹

        基于Buildroot或Yocto的定制化Linux系統(tǒng)，支持Cortex-A35雙核的OpenMP/OpenCL多線程編程，優(yōu)化NPU的TensorFlow Lite/ONNX Runtime
        發(fā)表于 04-28 17:57

        首創(chuàng)開源架構(gòu)，天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手

        ，聯(lián)發(fā)科帶來了全面升級(jí)的天璣AI開發(fā)套件2.0，在模型庫(kù)規(guī)模、架構(gòu)開放程度、前沿端側(cè)AI技術(shù)支持和端側(cè)LoRA訓(xùn)練落地等方面均迎來全面躍遷，為開發(fā)者提供了更全面、更開放、更強(qiáng)大的端側(cè)
        發(fā)表于 04-13 19:52

        邊緣AI新突破：MemryX AI加速卡與RK3588打造高效多路物體檢測(cè)方案

        資源及對(duì)主流深度學(xué)習(xí)框架 (如 TensorFlow、PyTorch、ONNX) 的支持，即便是新手也能快速上手，輕松部署 AI 模型，實(shí)現(xiàn)智能應(yīng)用開發(fā)。
        的頭像 發(fā)表于 03-06 10:45 ?951次閱讀
        邊緣<b class='flag-5'>AI</b>新突破：MemryX <b class='flag-5'>AI</b>加速卡與RK3588打造高效多路物體檢測(cè)方案

        無法在GPU上運(yùn)行ONNX模型的Benchmark_app怎么解決？

        在 CPU 和 GPU 上運(yùn)行OpenVINO? 2023.0 Benchmark_app推斷的 ONNX 模型。 在 CPU 上推理成功，但在 GPU 上失敗。
        發(fā)表于 03-06 08:02