今天，谷歌CEO Sundar Pichai發(fā)表了署名題為《AI at Google: our principles》的文章，列出7大指導(dǎo)原則，闡述谷歌在研發(fā)和使用AI時將遵循的目標(biāo)。Pichai還明確列出了谷歌“不會追求的AI應(yīng)用”，包括可能造成危害的技術(shù)、武器等。但是，谷歌并不會終止與美軍的合作。

上周五，谷歌宣布與國防部Maven合同在明年到期后不再續(xù)約，并表示將發(fā)布關(guān)于使用AI的新道德準則。

今天，谷歌CEO Sundar Pichai 發(fā)表了署名題為《AI at Google: our principles》的文章，列出7大指導(dǎo)原則，闡述谷歌在研發(fā)和使用AI時將遵循的目標(biāo)。

不僅如此，Pichai 還明確列出了谷歌“不會追求的AI應(yīng)用”，包括可能造成危害的技術(shù)、武器或其他以人身傷害為主要目的的技術(shù)、違反國際公約收集或使用信息的技術(shù)，以及違反人權(quán)和國際法的技術(shù)。

Pichai在文中寫道，“這些不是理論概念，而是具體的標(biāo)準，將積極主導(dǎo)我們的研究和產(chǎn)品開發(fā)，并會影響我們的業(yè)務(wù)決策”。

Pichai還表示，這些原則是谷歌和人工智能未來發(fā)展的正確基礎(chǔ)。這種做法與2004年谷歌成立之初“創(chuàng)始人的信”中所提出的價值觀一致。

谷歌云CEO Diane Greene也發(fā)表了題為《Incorporating Google’s AI Principles into Google Cloud》的文章，響應(yīng)新的準則。

“作惡的”Project Maven

這篇谷歌AI新準則的文章，是為了回應(yīng)之前谷歌內(nèi)部員工以及隨后公眾對谷歌與美國防部的合作項目Project Maven。

該項目旨在建立一個類似“谷歌地球”的監(jiān)測系統(tǒng)，讓五角大樓的分析師能“點擊建筑，查看與之相關(guān)的一切”，并為“整個城市”建立車輛、人員、土地特性和大量人群的圖像。

谷歌在2017年9月底獲得了Maven項目的合同，此后合作一直處于保密狀態(tài)，直到今年有員工在谷歌公司內(nèi)部溝通平臺將這件事曝光出來。部分谷歌員工幾乎是立即就站出來表示反對。之后，更有數(shù)千名員工簽署請愿書，要求谷歌取消該項目的合同，數(shù)十名員工辭職以示抗議。

事件不斷發(fā)酵，關(guān)于Project Maven是否有違谷歌成立之初立下的“不作惡”原則，討論越來越多，越來越激烈。

根據(jù)新智元此前的報道，谷歌的高層曾非常支持Maven項目，因為這將讓谷歌云在贏得更大的五角大樓合同的道路上走得更遠，但他們同時也對外界如何評判谷歌參與軍事項目十分擔(dān)憂。

最終，谷歌云CEO Diane Greene 在上周五谷歌員工早會上宣布，Project Maven合同將于2019年到期，此后不再續(xù)簽。

谷歌已經(jīng)為Maven做了大量工作，并且取得不錯的成果。根據(jù)Gizmodo獲取的消息，谷歌已經(jīng)構(gòu)建了一個系統(tǒng)，檢測專業(yè)圖像標(biāo)簽所遺漏的車輛；谷歌的高級工程項目經(jīng)理Reza Ghanadan在一封郵件中寫道，幾個案例表明，模型對專業(yè)標(biāo)簽錯過的車輛檢測率準確率能達到90%。

谷歌仍將與美軍合作，新的探索不會減速

不過，谷歌將繼續(xù)與美國政府和軍方開展在網(wǎng)絡(luò)安全、培訓(xùn)、退伍軍人醫(yī)療保健、搜救和軍事招聘方面合作。這家網(wǎng)絡(luò)巨頭正在爭取兩項數(shù)十億美元的國防部門辦公和云服務(wù)合同。

這些原則對公司將如何遵守規(guī)則提供了有限的細節(jié)。Pichai概述了谷歌應(yīng)用AI的7個核心原則，包括要對社會有益，可以構(gòu)建并測試安全性，避免產(chǎn)生或加強不公平的偏見等。Pichai表示，谷歌還將評估其在人工智能領(lǐng)域的工作，考察其技術(shù)“適應(yīng)有害使用”的程度。

谷歌一名要求匿名的代表坦率地表示，該公司數(shù)月來一直在制定道德準則，并將聘請外部顧問進行內(nèi)部審查，以確保人工智能準則得到執(zhí)行。

AI是谷歌網(wǎng)絡(luò)工具的重要組成部分，包括圖像搜索和識別，以及自動語言翻譯。但這也是其未來雄心的關(guān)鍵，很多都涉及到自己的道德領(lǐng)域，包括自動駕駛部門Waymo和谷歌Duplex系統(tǒng)，這個系統(tǒng)可以通過模仿人的聲音完成預(yù)定晚餐的任務(wù)。

但谷歌的新限制似乎并沒有減緩五角大樓的技術(shù)研究人員和工程師的速度，他們認為其他承包商仍然會競相幫助開發(fā)軍事和國防技術(shù)。美國國防部高級研究計劃局副局長Peter Highnam表示，沒有經(jīng)營Maven項目，但因幫助發(fā)明互聯(lián)網(wǎng)而獲評的五角大樓代理機構(gòu)稱，DARPA的“有數(shù)百家（如果不是數(shù)千家）積極出價的學(xué)校和公司” AI等技術(shù)研究項目。

“我們的目標(biāo)，我們的目標(biāo)是創(chuàng)造和防止技術(shù)突襲。所以我們正在考慮什么是可能的，“DARPA信息創(chuàng)新辦公室副主任約翰埃弗里特周三接受采訪時說。 “任何組織都可以自由參與這個正在進行的探索。”

Pichai 署名文章：谷歌AI使用原則

以下為谷歌CEO Sundar Pichai今天發(fā)布的署名文章：

AI的核心是可以學(xué)習(xí)和適應(yīng)的計算機編程，它不能解決所有的問題，但擁有巨大的潛力改善我們生活。在谷歌，我們使用AI讓產(chǎn)品更有用，從沒有垃圾郵件并且更容易撰寫的電子郵件，到可以自然對話的數(shù)字助理，再到突出有趣內(nèi)容供你欣賞的照片。

除了我們的產(chǎn)品，我們正在使用AI來幫助人們解決緊急問題。一對高中生正在構(gòu)建AI驅(qū)動的傳感器來預(yù)測野外火災(zāi)的風(fēng)險。農(nóng)民正在使用AI監(jiān)測牛群的健康狀況。醫(yī)生也開始用AI來幫助診斷癌癥并預(yù)防失明。這些顯而易見的好處是Google大力投入人工智能研發(fā)，并通過我們的工具和開源代碼使其他人也能普遍使用人工智能技術(shù)的原因。

我們認識到，這種強大的技術(shù)對其使用也提出了同等重要的問題。人工智能如何開發(fā)和使用，將對未來多年的社會產(chǎn)生重大的影響。作為人工智能領(lǐng)域的領(lǐng)導(dǎo)者，我們深感重任。所以今天，我們宣布了七項原則來指導(dǎo)我們今后的工作。這些不是理論概念，而是具體的標(biāo)準，將積極主導(dǎo)我們的研究和產(chǎn)品開發(fā)，并會影響我們的業(yè)務(wù)決策。

我們也意識到，這個領(lǐng)域是不斷變化和不斷發(fā)展的，我們將以謙遜態(tài)度對待我們的工作，對內(nèi)對外都是如此，我們也愿意隨時間的推移調(diào)整我們的方法。

AI應(yīng)用的目標(biāo)

我們將根據(jù)以下目標(biāo)評估AI應(yīng)用。我們認為AI應(yīng)該：

1、對社會有益

新技術(shù)的應(yīng)用范圍越來越廣，社會滲透率越來越高。人工智能的進步將對包括醫(yī)療保健、安全、能源、運輸、制造和娛樂在內(nèi)的各種領(lǐng)域產(chǎn)生變革性的影響。當(dāng)我們考慮AI技術(shù)的潛在發(fā)展和應(yīng)用時，我們將考慮各種社會和經(jīng)濟因素，并將在我們認為整體可能的收益大大超過可預(yù)見的風(fēng)險和缺點的情況下繼續(xù)進行。

人工智能還增強了我們理解大規(guī)模內(nèi)容含義的能力。我們將努力使用AI來隨時提供高質(zhì)量和準確的信息，同時繼續(xù)尊重所在國家的文化、社會和法律準則。我們將繼續(xù)深入評估何時將我們的技術(shù)用于非商業(yè)情況。

2、避免制造或加強不公平的偏見

人工智能算法和數(shù)據(jù)集可以反映、加強或減少不公平的偏見。我們認識到，區(qū)分公平和不公平的偏見并不總是很簡單，并且在不同的文化和社會中是不同的。我們將努力避免對人們造成不公正的影響，特別是與種族、民族、性別、國籍、收入、性取向，能力以及政治或宗教信仰等敏感特征有關(guān)的人。

3、建立并測試安全性

我們將繼續(xù)開發(fā)和應(yīng)用強大的安全措施，避免造成危害的意外結(jié)果。我們在設(shè)計人工智能系統(tǒng)時會保持適當(dāng)謹慎，并根據(jù)人工智能安全研究的最佳實踐尋求開發(fā)它們。在適當(dāng)?shù)那闆r下，我們將在受限環(huán)境中測試AI技術(shù)，并在部署后監(jiān)控其操作。

4、對人負責(zé)

我們將設(shè)計能夠提供反饋、相關(guān)解釋和說明的AI系統(tǒng)。我們的AI技術(shù)將接受適當(dāng)?shù)娜祟愔笇?dǎo)和控制。

5、納入隱私設(shè)計原則

在開發(fā)和使用AI技術(shù)時我們將融入隱私原則。我們將提供通知和同意，鼓勵具有隱私保護措施的架構(gòu)，并對數(shù)據(jù)的使用提供適當(dāng)?shù)耐该鞫群涂刂啤?/p>

6、堅持科學(xué)卓越的高標(biāo)準

技術(shù)創(chuàng)新的根本在于科學(xué)方法和對開放式調(diào)查的努力，學(xué)術(shù)嚴謹、誠信和合作。人工智能工具有可能在生物學(xué)、化學(xué)、醫(yī)學(xué)和環(huán)境科學(xué)等關(guān)鍵領(lǐng)域開拓科學(xué)研究和知識的新領(lǐng)域。我們致力于促進人工智能的發(fā)展，我們也追求高標(biāo)準的科學(xué)卓越。

我們將與一系列利益相關(guān)者合作，以科學(xué)嚴謹和多學(xué)科的方式來全面引領(lǐng)領(lǐng)域發(fā)展。我們將通過發(fā)布教育材料，最佳實踐和研究，負責(zé)任地分享人工智能知識，使更多人能夠開發(fā)有用的人工智能應(yīng)用。

7、為符合這些原則的用途提供

許多技術(shù)都有多種用途。我們將努力限制可能有害或濫用的應(yīng)用程序。在開發(fā)和部署AI技術(shù)時，我們將根據(jù)以下因素評估可能的用途：

主要目的和用途：技術(shù)和應(yīng)用的主要目的和可能的用途，包括解決方案與有害用途的相關(guān)度或適用程度

性質(zhì)和唯一性：我們的技術(shù)是獨一無二的還是更普遍可用的

規(guī)模：這項技術(shù)的使用是否會產(chǎn)生大規(guī)模的影響

Google參與的性質(zhì)：我們是提供通用的工具，為客戶集成工具，還是開發(fā)定制的解決方案

我們不會追求的AI應(yīng)用

除了上述目標(biāo)之外，我們不會在以下應(yīng)用領(lǐng)域設(shè)計或部署AI：

已造成或可能造成整體性傷害的技術(shù)。在存在重大傷害風(fēng)險的情況下，我們只會在我們認為好處遠遠超過風(fēng)險的情況下繼續(xù)進行，并且會納入適當(dāng)?shù)陌踩拗啤?/p>

武器或其他主要目的是導(dǎo)致或直接造成人身傷害的技術(shù)。

收集或使用信息的技術(shù)違反國際公認的規(guī)范。

其目的與國際法和人權(quán)普遍接受的原則相違背的技術(shù)。

我們希望明確的是，雖然我們沒有在開發(fā)用于武器的AI，但我們將繼續(xù)在其他許多領(lǐng)域與政府和軍方合作，包括網(wǎng)絡(luò)安全、培訓(xùn)、軍人招募、退伍軍人醫(yī)療、搜索和救援。這些合作是很重要的，我們將積極尋找更多方法來加強這些組織的關(guān)鍵工作，并確保服役人員和平民的安全。

長期的人工智能

雖然這是我們選擇的應(yīng)用人工智能的方式，但我們明白，在這場討論中還有許多觀點存在空間。隨著人工智能技術(shù)的進步，我們將與一系列利益相關(guān)者合作，采用科學(xué)嚴謹、多學(xué)科方法提升這一領(lǐng)域的領(lǐng)導(dǎo)力。我們將繼續(xù)分享我們在改進AI技術(shù)和實踐方面的經(jīng)驗。

我們相信這些原則是我們公司和人工智能未來發(fā)展的正確基礎(chǔ)。這種做法與2004年我們最初的“創(chuàng)始人的信”中提出的價值觀是一致的。在那封信中，我們明確表示，我們打算從長遠的角度出發(fā)，即使這意味著要做出短期的權(quán)衡。這一理念我們當(dāng)時說過，現(xiàn)在我們確信了。