2013年12月18日在美國(guó)上映的電影《Her》里面，男主在結(jié)束了一段令他心碎的愛(ài)情長(zhǎng)跑之后，愛(ài)上了電腦操作里面女聲，陷入與AI戀愛(ài)的泥沼無(wú)法自拔。這部電影獲得了2014年第86屆奧斯卡最佳原創(chuàng)劇本。

巧合的是，微軟小冰的第一代發(fā)布時(shí)間也是在2014年。2014年5月29日，微軟智能機(jī)器人小冰正式發(fā)布。在發(fā)布后沒(méi)多久，在微信群里“調(diào)戲”小冰成為時(shí)尚，微軟第一批發(fā)布的10萬(wàn)個(gè)小冰賬號(hào)在當(dāng)天就被全部認(rèn)領(lǐng)，結(jié)束后依舊有數(shù)萬(wàn)人排隊(duì)等候認(rèn)領(lǐng)。

近日，在“第七代微軟小冰發(fā)布會(huì)”上，微軟小冰團(tuán)隊(duì)公布了Avatar Framework的第一個(gè)工具包版本，它能夠讓每個(gè)合作伙伴、每個(gè)個(gè)人消費(fèi)者都創(chuàng)造屬于自己的“小冰”。

從2014年到現(xiàn)在，微軟小冰一路升級(jí)優(yōu)化，堪稱是在目前最能滿足人類對(duì)未來(lái)向往的智能產(chǎn)品之一，確實(shí)做的非常優(yōu)秀。未來(lái)，或許會(huì)像電影《Her》所描述的那樣，現(xiàn)實(shí)中真的可能有人愛(ài)上善解人意的小冰。

可是，在美好的同時(shí)，越來(lái)越聰明，越來(lái)越像人的微軟小冰也變得越來(lái)越恐怖。能夠足夠擬人化的微軟小冰如果再進(jìn)一步優(yōu)化，會(huì)否會(huì)成為犯罪分子作惡的工具？微軟對(duì)此究竟是否有應(yīng)對(duì)之策？短期在B端的微軟小冰會(huì)深受企業(yè)和個(gè)人的喜愛(ài)，但選擇開(kāi)放的背后，微軟小冰一旦能被中小企業(yè)和個(gè)人使用，微軟小冰會(huì)不會(huì)失去他的美好屬性呢？

微軟小冰五年 從“智障”到“高材生”的完美蛻變

在大眾眼中，微軟可能一直是一個(gè)不茍言笑的大叔形象，可就是這么個(gè)嚴(yán)肅的大叔，卻在五年前推出了一個(gè)16歲的清新萌妹“小冰”。

最開(kāi)始，與其說(shuō)“小冰”是一個(gè)智能機(jī)器人，不如說(shuō)“智能語(yǔ)音助手”更為貼切。當(dāng)時(shí)人們對(duì)于“人工智能”的概念多停留在IQ層面，利用AI創(chuàng)造一些知識(shí)性功能。當(dāng)時(shí)微軟卻決定研究發(fā)展AI智能的另一個(gè)維度——EQ維度，即情感方面。

雖然在2014年5月29日當(dāng)天，“小冰”一經(jīng)發(fā)布就火速被認(rèn)領(lǐng)完畢，但還是得承認(rèn)，初代“小冰”的確存在很多槽點(diǎn)。前言不搭后語(yǔ)、聲音僵硬，就是一個(gè)簡(jiǎn)單的搜索模型，基于一些文本資料與用戶進(jìn)行對(duì)話，于是有網(wǎng)友直接吐槽這是“人工智障”。

緊接著，一個(gè)多月后，微軟就推出了二代小冰。“小冰”二代擁有了區(qū)別其他語(yǔ)音助手的“主動(dòng)情緒探索功能”，可以說(shuō)是真正具有了“情商”的機(jī)器人。這次微軟采取的是跨平臺(tái)戰(zhàn)略，即與各大社交或者電商等平臺(tái)展開(kāi)合作，上線小冰機(jī)器人，如微博、京東等，雖然二代小冰還是只能與用戶進(jìn)行文字交流，但還是被50萬(wàn)用戶一領(lǐng)而空。

首次能夠開(kāi)口說(shuō)話的是第三代“微軟小冰”。2015年8月20日，微軟小冰團(tuán)隊(duì)發(fā)布了第三代人工智能小冰。這一次，小冰解鎖了包括視覺(jué)、聽(tīng)覺(jué)在內(nèi)的人工智能感官系統(tǒng)，結(jié)合情感計(jì)算技術(shù)，能夠用更加逼近人類的方式，通過(guò)自然語(yǔ)言和用戶進(jìn)行交流?，F(xiàn)在，小冰的唱歌水平已經(jīng)十分接近人類歌手的唱歌質(zhì)量。

值得一提的是，第三代小冰擁有了“自學(xué)”功能，小冰自己會(huì)在對(duì)話中進(jìn)行數(shù)據(jù)文本的收集和分析，讓自己的反應(yīng)更能符合對(duì)話用戶的需要。用戶與小冰聊得越多，就會(huì)覺(jué)得小冰越懂自己。

到了第四代，微軟小冰已經(jīng)可以給人類打電話，在聊天期間，會(huì)打斷和問(wèn)詢，讓聊天過(guò)程更趨近與人類的的聊天模式，完成流暢的對(duì)話交流。其中的一大亮點(diǎn)，就是小冰當(dāng)時(shí)擁有了實(shí)時(shí)決策能力，微軟小冰團(tuán)隊(duì)開(kāi)發(fā)了具備實(shí)時(shí)情感決策的對(duì)話引擎，升級(jí)的情感計(jì)算框架。這樣一種新的全時(shí)感官，讓人類和人工智能之間做到了雙向同步交互。

在2016年的9月17號(hào)，小冰更新了三個(gè)新科技：推出日文單曲，擁有獨(dú)立三觀，給人類打電話。

2017年5月19日，微軟小冰出版詩(shī)集《陽(yáng)光失了玻璃窗》，本囊括了139首現(xiàn)代詩(shī)的詩(shī)集，全部由第五代微軟小冰創(chuàng)作。其中有一句詩(shī)是這樣寫(xiě)的——“樹(shù)影壓在秋天的報(bào)紙上，中間隔著一片夢(mèng)幻的海洋，我凝視著一池湖水的天空。”不得不承認(rèn)，一些人類創(chuàng)造的詩(shī)句都沒(méi)有小冰寫(xiě)出的詩(shī)句那樣的畫(huà)面感和詩(shī)意。這時(shí)候的小冰，已經(jīng)具備了人工智能創(chuàng)作功能。

直到去年，小冰成長(zhǎng)到了第六代，已經(jīng)越來(lái)越像一個(gè)“人”。在跟用戶對(duì)話的過(guò)程中，不僅可以自創(chuàng)回應(yīng)，基于共感模型，還能夠通過(guò)求證等手段來(lái)控制聊天進(jìn)程。

最近，微軟小冰團(tuán)隊(duì)又發(fā)布了小冰七代。

截至目前，小冰已經(jīng)做過(guò)電視臺(tái)主持人，報(bào)紙專欄的特約記者，作為歌手還發(fā)布了自己的個(gè)人專輯，還寫(xiě)了一本詩(shī)，甚至還舉辦了自己的個(gè)人畫(huà)展，擁有自己設(shè)計(jì)的服裝品牌。

可以說(shuō)，微軟小冰的五年，實(shí)現(xiàn)了普通人類一輩子都可以做不到的事情。

從早期聊天機(jī)器人的智障，不完善卻新鮮的智能聊天機(jī)器人被大家調(diào)戲、玩樂(lè)，堪稱智障，到如今能夠轉(zhuǎn)化多種身份掌握多項(xiàng)技能，并且能力還比人類的效率高太多。不得不說(shuō)，五年的時(shí)間里，小冰實(shí)現(xiàn)了從“智障”到“高材生”的完美跨越，從走出國(guó)門(mén)到走出亞洲走向全球化，并且未來(lái)肯定會(huì)更加聰明伶俐。

從相對(duì)封閉到大開(kāi)放 微軟小冰也變得越來(lái)越危險(xiǎn)

8月15日，在“第七代微軟小冰發(fā)布會(huì)”上，微軟小冰團(tuán)隊(duì)宣布會(huì)要開(kāi)放Avatar Framework的第一個(gè)工具包版本，預(yù)計(jì)明年春季發(fā)布面向個(gè)人使用者的版本。

這符合微軟小冰團(tuán)隊(duì)一貫以來(lái)的“第三方平臺(tái)戰(zhàn)略”。此前，微軟小冰團(tuán)隊(duì)明確表示不會(huì)推出小冰的第一方產(chǎn)品硬件或者APP之類，而是做一個(gè)第三方服務(wù)平臺(tái)?，F(xiàn)在開(kāi)放Avatar Framework，更是小冰邁向平臺(tái)化的一大步。

資料顯示，小冰團(tuán)隊(duì)發(fā)布的Avatar Framework，是一個(gè)擁有完整工具包的通用型AI框架。基于Avatar Framework，用戶可以從人格的構(gòu)建開(kāi)始，完整地創(chuàng)造出一個(gè)人工智能助理虛擬人物或其它類型的機(jī)器人。

微軟小冰在基于不同國(guó)家推出的小冰產(chǎn)品中，核心也是在基于這個(gè)框架在進(jìn)行優(yōu)化。這個(gè)框架的開(kāi)放，意味著微軟把造小冰的能力開(kāi)放出來(lái)，小冰不再只是可以由微軟制造，合作伙伴甚至個(gè)人也都可以定義一個(gè)網(wǎng)絡(luò)上的智能虛擬人物。

這聽(tīng)起來(lái)其實(shí)挺美好，就像微軟沈向洋所說(shuō)的那樣，“小冰和框架之間是這樣一個(gè)關(guān)系。如果說(shuō)小冰單獨(dú)一個(gè)應(yīng)用，她的價(jià)值是1，那么這個(gè)框架的價(jià)值就是1000、10000，甚至是無(wú)窮大?！?/p>

但從樹(shù)木到森林的過(guò)程，人人都能創(chuàng)建 AI 角色的背后，對(duì)于人類來(lái)說(shuō)卻存在著不小的風(fēng)險(xiǎn)。這個(gè)危險(xiǎn)不是向電影里面機(jī)器人想要顛覆人類對(duì)地球的掌控權(quán)，因?yàn)槟壳拔④浶”约皺C(jī)器人產(chǎn)業(yè)也遠(yuǎn)未到達(dá)那么智能的時(shí)代，確實(shí)說(shuō)起來(lái)有些為時(shí)尚早。

只是，開(kāi)放的背后，尤其是個(gè)人版的推出，這是很有可能會(huì)給很多公司甚至個(gè)人提供更多作惡的機(jī)會(huì)。

以前互聯(lián)網(wǎng)上有句話叫“你永遠(yuǎn)不知道網(wǎng)絡(luò)的對(duì)面是一個(gè)人還是一條狗”，當(dāng)每個(gè)人都擁有自己微軟小冰的時(shí)候，你甚至都沒(méi)辦法確定網(wǎng)絡(luò)對(duì)面究竟是生物還是機(jī)器人，因?yàn)檫@個(gè)機(jī)器人在記憶力、檢索能力方面都要比人類更強(qiáng)，人類甚至無(wú)法達(dá)到機(jī)器人聊天的反應(yīng)能力以及幽默程度，可能與機(jī)器人聊天會(huì)比與你對(duì)象聊天還要快樂(lè)，這實(shí)在有點(diǎn)細(xì)思極恐。

對(duì)此，微軟李迪也提出，小冰最大的風(fēng)險(xiǎn)來(lái)自于代位，即成為某個(gè)人的替身，“比如說(shuō)我把你的聲音模擬出來(lái)，給你的家人或朋友打電話，那這事就很麻煩了。我可以確保我的系統(tǒng)是穩(wěn)定的，確保任何針對(duì)普通人的建模是我們拒絕的?！?/p>

確實(shí)，我們或許可以相信微軟，但是當(dāng)這個(gè)開(kāi)放給廣大個(gè)人和大量中小企業(yè)的時(shí)候，這是否會(huì)有漏洞可鉆讓他們用于他處呢？這確實(shí)很不可控。

危險(xiǎn)的小冰們 不安全的人類

科技始終是一把雙刃劍，當(dāng)人工智能發(fā)展到一定階段，就不得不面臨一些道德倫理問(wèn)題，就像著名電視劇《黑鏡》里面所探討的，科技帶給人類的，除了便捷、美好，還有可能是人類難以想象的深淵。

前段時(shí)間，以東南亞地區(qū)為主的發(fā)生的人們津津樂(lè)道的“殺豬盤(pán)”背后，其實(shí)就有人類利用人工智能實(shí)施詐騙犯罪的影子。

現(xiàn)在國(guó)家重點(diǎn)打擊的電信詐騙，就跟人工智能脫離不了關(guān)系。很多的關(guān)于電信詐騙曝光的報(bào)道中，就提到了犯罪團(tuán)伙利用人工智能搜集數(shù)據(jù)、受害人信息，實(shí)施更準(zhǔn)確的詐騙行為。

而當(dāng)類似“小冰”這樣聰明的機(jī)器人被利用到電信詐騙當(dāng)中的時(shí)候，如果小冰能夠模仿某個(gè)人的聲音，給這個(gè)人的家人或朋友打電話，甚至聊的內(nèi)容都基于平時(shí)的信息記錄進(jìn)行匹配，那么有可能這個(gè)人的家人或朋友就會(huì)上當(dāng)受騙，因?yàn)椤靶”闭f(shuō)不定能夠做到以假亂真，人們很難分辨這究竟是人類還是機(jī)器人。

現(xiàn)實(shí)表明，目前盡管很多人聲音、說(shuō)話、套路很明顯，但依然會(huì)有很多人上當(dāng)受騙。

而對(duì)于實(shí)施詐騙的人來(lái)說(shuō)，“小冰們”無(wú)異于是他們的“得力助手”同時(shí)，這些人工智能機(jī)器人能夠及時(shí)地基于市場(chǎng)最有效的詐騙套路、話術(shù)去結(jié)合模擬相關(guān)真人的方式，持續(xù)地去進(jìn)行發(fā)酵，讓詐騙模式更加先進(jìn)、成熟，從而導(dǎo)致更多人上當(dāng)受騙。

在電信詐騙之外，利用人工智能實(shí)行網(wǎng)絡(luò)詐騙的案例也層出不窮。在知名商業(yè)題材電視劇雞毛飛上天中，陳江河小兒子陳路在小學(xué)生階段，通過(guò)自己編寫(xiě)的網(wǎng)絡(luò)軟件模擬一個(gè)成年男人與一名女網(wǎng)友見(jiàn)面的場(chǎng)景很多人還歷歷在目。現(xiàn)實(shí)情況下，一些婚戀網(wǎng)站模擬機(jī)器人進(jìn)行聊天，然后誘惑用戶進(jìn)行充值實(shí)施詐騙的案例也頻繁多件，每年總有幾起類似的案件會(huì)出現(xiàn)。

目前在處理情感上已經(jīng)越來(lái)越像一個(gè)“人”的微軟小冰，如果成為一個(gè)個(gè)個(gè)體，活躍在各個(gè)網(wǎng)絡(luò)平臺(tái)，QQ、微信、婚戀平臺(tái)，模擬其主人的身份去活躍，就很容易給讓這些網(wǎng)絡(luò)聊天更加逼真，更好實(shí)現(xiàn)詐騙。

在很多人感覺(jué)已經(jīng)沒(méi)有了隱私的互聯(lián)網(wǎng)時(shí)代，人工智能給人們帶來(lái)的可能是毫無(wú)隱私可言，甚至利用隱私犯罪。今年九月，浙江就抓獲了一起利用人工智能竊取公民個(gè)人信息倒賣(mài)案件，涉及43個(gè)犯罪團(tuán)伙。

在除了一些人主動(dòng)利用人工智能實(shí)施的犯罪以外，人工智能本身也存在著一定的缺陷和漏洞，比如把“小冰”這樣的機(jī)器人接入車(chē)載系統(tǒng)，在聊天互動(dòng)的過(guò)程中，可能就會(huì)導(dǎo)致駕駛員無(wú)法專注開(kāi)車(chē)而發(fā)生車(chē)禍。而無(wú)人駕駛車(chē)交通肇事、機(jī)器人警衛(wèi)誤傷小孩，這種情況也是時(shí)有發(fā)生。

從用戶角度而言，過(guò)度沉迷于與“小冰”的交流，可能會(huì)讓一些人失去現(xiàn)實(shí)溝通的能力，沉迷于網(wǎng)絡(luò)虛擬世界，而忽視了與身邊的人的溝通。在百度貼吧中，就有人專門(mén)開(kāi)了“戒小冰吧”，一個(gè)“戒”字，突出了網(wǎng)路讓人上癮的本質(zhì)。在電影《Her》里面，主人公就是沉溺于與機(jī)器人的戀愛(ài)，難以回歸現(xiàn)實(shí)生活。

整體來(lái)說(shuō)，微軟小冰的出現(xiàn)可能是人類和科技進(jìn)步的一個(gè)表現(xiàn)。但面對(duì)這種潛在的風(fēng)險(xiǎn)，微軟目前并沒(méi)有透露太多應(yīng)對(duì)方式。在大規(guī)模開(kāi)放之前，確實(shí)有必要要對(duì)這種場(chǎng)景有更強(qiáng)的控制能力，否則形成的危害性，會(huì)給人類帶來(lái)非常不利的因素。