本周初，騰訊混元宣布開源四款小尺寸模型（參數(shù)分別為 0.5B、1.8B、4B、7B），可無縫運(yùn)行于消費(fèi)級顯卡上。作為全球應(yīng)用范圍最為廣泛的計(jì)算平臺，Arm 在開源首日就已率先實(shí)現(xiàn)適配，攜手合作伙伴共同賦能端側(cè)人工智能 (AI) 部署，助力本土開發(fā)者實(shí)現(xiàn) AI 應(yīng)用創(chuàng)新！

這次的首日開源適配是雙方再次攜手提升端側(cè)應(yīng)用功能和用戶體驗(yàn)的又一例證。去年，Arm 將 Arm KleidiAI 技術(shù)與騰訊混元自研的 Angel 機(jī)器學(xué)習(xí)框架進(jìn)行集成，從而提高移動端 AI 服務(wù)的推理性能和效率。得益于這一集成，混元大模型的預(yù)填充部分加速了 100%，而解碼器的速度提高了 10%。

此次騰訊混元開源的四款模型可適用于筆記本電腦、手機(jī)、智能座艙、智能家居等低功耗場景，且支持垂直領(lǐng)域低成本微調(diào)，為開發(fā)者和企業(yè)提供更多尺寸的模型選擇。四款模型均實(shí)現(xiàn)了對標(biāo)業(yè)界同尺寸模型的性能表現(xiàn)，特別是在語言理解、數(shù)學(xué)、推理等領(lǐng)域尤為突出。目前，四款模型均已在 Github 和 Huggingface 等開源社區(qū)上線。

此外，對于開源方面的投入，雙方秉持同樣的熱忱，開源是騰訊混元大模型長期堅(jiān)持的方向，而 Arm 則在開源項(xiàng)目的支持上投入了大量的工程資源，并不斷地?cái)U(kuò)大開源合作伙伴協(xié)作，致力于為全球超過 2,200 萬基于 Arm 平臺開發(fā)的開發(fā)者提供更多的獲取資源和更高的性能，助力實(shí)現(xiàn) AI 無處不在！

展望未來，Arm 將繼續(xù)通過開源合作與技術(shù)創(chuàng)新，持續(xù)賦能開發(fā)者無縫獲取底層硬件性能，進(jìn)而實(shí)現(xiàn)更順暢的創(chuàng)新開發(fā)，并攜手合作伙伴構(gòu)筑更加繁榮的開源生態(tài)，加速應(yīng)用落地。