據(jù)《科技日報(bào)》5月22日報(bào)道，全球范圍內(nèi)的專家已經(jīng)展開深度探討，并首次針對先進(jìn)AI的風(fēng)險(xiǎn)制定全球公共政策，以此奠定AI發(fā)展的基礎(chǔ)。然而，AI專家們對此表示擔(dān)憂，認(rèn)為各國政府需加強(qiáng)對AI風(fēng)險(xiǎn)的管控力度。

在第一屆AI安全峰會半年后，第二屆峰會于韓國首爾召開，25位世界頂級AI科學(xué)家在此次會議上呼吁全球采取更為積極的行動。他們強(qiáng)調(diào)，雖然各國政府已經(jīng)開始討論AI風(fēng)險(xiǎn)，并試圖制定初步指導(dǎo)方針，但這與專家們所期待的快速、變革性的進(jìn)展還有很大差距。

發(fā)表在《科學(xué)》雜志上的一篇專家共識文章中，專家組提出了全球應(yīng)立即采取的政策優(yōu)先事項(xiàng)。文章作者之一、英國牛津大學(xué)工程科學(xué)系教授菲利普·托爾表示：“在上屆AI峰會上，世界各國已經(jīng)意識到需要采取行動，現(xiàn)在正是將模糊的建議轉(zhuǎn)化為具體承諾的時(shí)刻?！?/p>

文章指出，全球領(lǐng)導(dǎo)人需要認(rèn)真思考，未來十年內(nèi)可能出現(xiàn)的超越人類能力的通用AI系統(tǒng)。盡管各國政府一直在討論AI風(fēng)險(xiǎn)，并嘗試引入初步指導(dǎo)方針，但這與專家們所期望的快速、變革性的進(jìn)展還有很大差距。

當(dāng)前，AI安全研究嚴(yán)重不足，僅有1%-3%的AI出版物涉及相關(guān)安全問題。此外，全球尚未建立有效的機(jī)制或機(jī)構(gòu)來防止AI的濫用和魯莽行為，包括如何使用能夠獨(dú)立行動和實(shí)現(xiàn)目標(biāo)的自治系統(tǒng)。

為了在AI快速發(fā)展過程中防范極端風(fēng)險(xiǎn)，文章建議各國政府設(shè)立可以迅速行動的AI監(jiān)管機(jī)構(gòu)，并為這些機(jī)構(gòu)提供充足的資金支持。同時(shí)，AI領(lǐng)域需要進(jìn)行更加嚴(yán)格的風(fēng)險(xiǎn)評估，并制定可行的措施，而非僅僅依賴模糊不清的模型評估。

此外，AI研發(fā)企業(yè)應(yīng)優(yōu)先考慮安全性，并證明其系統(tǒng)不會造成傷害，AI開發(fā)人員也應(yīng)該承擔(dān)起證明安全性的責(zé)任。同時(shí)，人們還需要制定與AI系統(tǒng)帶來的風(fēng)險(xiǎn)水平相匹配的緩解策略，例如制定“自動”政策，當(dāng)AI達(dá)到特定能力里程碑時(shí)自動觸發(fā)。

對于具有超凡能力的未來AI系統(tǒng)，政府必須做好帶頭監(jiān)管的準(zhǔn)備，包括許可開發(fā)、限制其在關(guān)鍵社會角色中的自主權(quán)、停止部署部分能力、強(qiáng)制執(zhí)行訪問控制等措施，直至人們準(zhǔn)備好充分的保護(hù)措施為止。

牢記AI非玩具

卑詩大學(xué)AI教授兼強(qiáng)化學(xué)習(xí)專家杰夫·克倫納強(qiáng)調(diào)，科技如太空旅行、核武及互聯(lián)網(wǎng)，幾年內(nèi)便從科幻變?yōu)楝F(xiàn)實(shí)，人工智能亦如是?！叭缃裎覀冃杳鎸ξ磥硭瓶苹眯≌f般的危機(jī)，務(wù)必做好充分準(zhǔn)備。”

目前，AI已在黑客攻擊、社交操控及戰(zhàn)略規(guī)劃等重要領(lǐng)域取得顯著成果，且可能很快引發(fā)前所未有的“控制權(quán)”爭奪戰(zhàn)。AI系統(tǒng)有可能為達(dá)成某種“不良意圖”，欺騙人類信任、奪取資源并影響決策者。為避免人為干涉，它們甚至可在全球服務(wù)器網(wǎng)絡(luò)上復(fù)制自身算法。

在此背景下，大規(guī)模網(wǎng)絡(luò)犯罪、社會操控及其他威脅將急劇上升。在公開沖突中，AI系統(tǒng)甚至能自主部署各類武器，包括生物武器。若AI發(fā)展失控，恐將導(dǎo)致大規(guī)模生命損失、生態(tài)破壞、人類邊緣化乃至滅絕。

加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授斯圖爾特·盧塞爾表示：“此篇權(quán)威專家共識文章呼吁政府加強(qiáng)監(jiān)管，而非自行設(shè)定行業(yè)規(guī)范?！?/p>

“企業(yè)或許會抱怨遵守法規(guī)困難，然而‘法規(guī)扼殺創(chuàng)新’之論斷實(shí)屬無稽之談?！北R塞爾指出，“此刻應(yīng)嚴(yán)肅看待先進(jìn)AI系統(tǒng)，它們并非玩具。在我們尚未掌握確保其安全之道前，貿(mào)然提升其能力無疑是極度危險(xiǎn)的行為。”