最近，技術(shù)神秘的異構(gòu)智能終于出現(xiàn)在了人們的視線中，異構(gòu)智能的CEO吳韌還為此，表達(dá)了公司愿景“異構(gòu)智能有芯片、模型，有超級計(jì)算機(jī)，希望將模型脫離云端，帶到本地和終端，讓終端變得智能?！眳琼g談異構(gòu)智能芯片：能耗比谷歌低，比華為寒武紀(jì)計(jì)算力高。

大氣、穩(wěn)重是吳韌給人留下的第一印象。自2015年百度離職創(chuàng)立異構(gòu)智能以來，這位CEO很少出來發(fā)聲，異構(gòu)智能也因此被打上了“神秘”的標(biāo)簽。

與其說這場名為《異構(gòu)智能擁抱人工智能大勢》的分享是場媒體交流會，倒不如說是場吳韌揭秘他與異構(gòu)智能近況的懇談。

“異構(gòu)智能有芯片、模型，有超級計(jì)算機(jī)，希望將模型脫離云端，帶到本地和終端，讓終端變得智能?！眳琼g一開始就表達(dá)了公司愿景。

“（云端）物聯(lián)網(wǎng)是個偽命題，是難以實(shí)現(xiàn)的?！眳琼g說。

目前的現(xiàn)狀是，看似魔術(shù)般連接起來的物聯(lián)網(wǎng)，實(shí)際需要通過很多海底和底下光纜從分支道路連接到主干道。接入的分支道路呈指數(shù)級增長，已經(jīng)遠(yuǎn)遠(yuǎn)超出主干道增長的速度。

因?yàn)閭鹘y(tǒng)的物聯(lián)網(wǎng)的云端架構(gòu)難以處理未來的海量數(shù)據(jù)，異構(gòu)智能開始考慮將人工智能的能力從云端拿到終端，讓邊緣設(shè)備學(xué)會“思考”。將邊緣設(shè)備思考的結(jié)果通過網(wǎng)絡(luò)與世界連接，就是實(shí)現(xiàn)了吳韌口中的智聯(lián)網(wǎng)（I2oT）。

“在本地做人工智能是未來的方向，異構(gòu)智能將為這個方向的公司賦能?！眳琼g說。

將AI放于終端對芯片提出了一高一低兩點(diǎn)挑戰(zhàn)?！案摺痹谟?，AI芯片主要有足夠強(qiáng)大的高性能支持復(fù)雜的人工智能計(jì)算，“低”是指芯片需足夠低功耗才能置于邊緣的小物體上。

“是挑戰(zhàn)，也是機(jī)會，”吳韌的聲音中帶著堅(jiān)定，“異構(gòu)智能的決定是take the challenge and seize the opportunity（接受挑戰(zhàn)，抓住機(jī)遇）?！?/p>

高性能-低能耗

在此情境下，異構(gòu)智能選擇放棄芯片的通用性，為AI場景設(shè)計(jì)一款專用芯片，以追求最高的性能功耗比。

吳韌表示，目前的人工智能芯片真正起效需要10TOPS（萬億次運(yùn)算/秒）的計(jì)算力，谷歌等公司的頂級芯片計(jì)算力高但能耗也高，不滿足本地落地的條件，而高通、寒武紀(jì)麒麟970等芯片雖然低能耗，但計(jì)算力卻達(dá)不到。

相比之下，NovuTensor V1僅用5W的用電量，就能實(shí)現(xiàn)15TOPS的性能。能耗低，且滿足計(jì)算需求。

△ NovuTensor優(yōu)勢對比

5W是什么概念呢？吳韌現(xiàn)場形象化地表示，5W是USB可以提供的電量。

“這就是從云端突破到終端的能力?！眳琼g說。

專利后的全棧解決方案

“人工智能的核心計(jì)算是三維張量的卷積計(jì)算，小立方體和大立方體重合的部分做點(diǎn)乘，”吳韌開始談到芯片背后的技術(shù)，“異構(gòu)智能的芯片在三維層面做操作，并且有四項(xiàng)專利保護(hù)?！?/p>

△ NovuTensor核心技術(shù)

這四項(xiàng)專利包括三維張量卷積用硬件的直接實(shí)現(xiàn)，對數(shù)據(jù)的調(diào)度與分配、歸并和處理器間的協(xié)作。

只看到機(jī)會還不夠，異構(gòu)智能最早找到辦法把芯片和算法設(shè)計(jì)出來并加以實(shí)現(xiàn)，輔之以專利保護(hù)。這樣看來，異構(gòu)智能走得早，也走得穩(wěn)。

“想為其他公司賦能?！眳琼g不止一次提到這句話。

賦能，也就是幫助其他公司訓(xùn)練出更聰明的模型、更復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)，讓數(shù)據(jù)集發(fā)揮更大的作用。

通過為人工智能定制的超級計(jì)算機(jī)進(jìn)行訓(xùn)練，異構(gòu)智能的芯片能用最高的性能功耗比實(shí)現(xiàn)設(shè)計(jì)模型，為不同行業(yè)，提供全棧式的服務(wù)。甚至可以為非AI公司提供計(jì)算和智能的能力，幫助人工智能落地。

△ 異構(gòu)智能的全棧解決方案

未來

異構(gòu)智能的本地智慧模塊NovuBrain主要落地方向包括安防、制造、家居、醫(yī)療器械、智慧城市和智能駕駛，目前已經(jīng)與HP、KUKA合作。

“通過把技術(shù)能力賦給頂級的大公司，這些公司把這些能力賦予給他們的用戶，異構(gòu)智能就不需要在每一個行業(yè)、對每一個用戶、每一個應(yīng)用來做這些事情。”吳韌說。

據(jù)量子位了解，目前28nm的ASIC芯片已經(jīng)進(jìn)入流片階段，16nm和7nm芯片同步推進(jìn)，預(yù)計(jì)明年生產(chǎn)。

當(dāng)被問及明年推出16nm芯片是否時間緊張時，吳韌表示公司團(tuán)隊(duì)人才積累豐厚，對最新技術(shù)的把控很有信心。技術(shù)團(tuán)隊(duì)的李淼（Mike Li）之前在Inphi負(fù)責(zé)過兩款16nm的芯片，對它的制程基本有100%的信心。

“未來的世界一定是智能物聯(lián)網(wǎng)領(lǐng)先。異構(gòu)智能的定位是讓萬物互聯(lián)轉(zhuǎn)到萬物智能，為轉(zhuǎn)折提供所有的技術(shù)，隨著智聯(lián)網(wǎng)的長大，公司也將長大，成為偉大的公司?！眳琼g說。