導(dǎo) 語

專家表示，法律應(yīng)當(dāng)以鼓勵(lì)人工智能產(chǎn)業(yè)發(fā)展為主，要確定大的紅線和負(fù)面清單的立法思想。就是考慮到人工智能可能給社會(huì)發(fā)展帶來的幾大危害，比如人工智能不能用于詐騙、不能用于數(shù)據(jù)攻擊等。

日前，國(guó)務(wù)院辦公廳印發(fā)《國(guó)務(wù)院2023年度立法工作計(jì)劃》。其中值得注意的是，人工智能法草案等預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議，可見我國(guó)人工智能領(lǐng)域立法將邁上新臺(tái)階。

其實(shí)，2017年國(guó)務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》就提出“三步走”的戰(zhàn)略目標(biāo)，2020年，部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)初步建立。2025年，初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評(píng)估和管控能力。2030年，建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系。

中國(guó)社科院法學(xué)所研究員、科技與法研究中心主任、博士生導(dǎo)師楊延超在接受紅星新聞采訪時(shí)表示，需要既考慮人工智能風(fēng)險(xiǎn)，又要考慮產(chǎn)業(yè)發(fā)展。人工智能還屬于技術(shù)發(fā)展的初期，不宜將很多問題規(guī)定得過細(xì)甚至過嚴(yán)。法律還應(yīng)當(dāng)以鼓勵(lì)產(chǎn)業(yè)發(fā)展為主，要確定大的紅線和負(fù)面清單的立法思想。所謂大的紅線和負(fù)面清單，就是考慮到人工智能可能給社會(huì)發(fā)展帶來的幾大危害，劃定紅線。比如人工智能不能用于詐騙、不能用于數(shù)據(jù)攻擊等。

為什么說人工智能立法條件已經(jīng)成熟？

過去幾年，我國(guó)人工智能領(lǐng)域建章立制已經(jīng)起步。2022年3月1日開始實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱“算法推薦管理規(guī)定”）中，生成合成類算法被列為五大類算法推薦技術(shù)之一（生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類），受到監(jiān)管。

2023年1月1日開始實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱“深度合成管理規(guī)定“）中，將深度合成作為算法服務(wù)種類中高風(fēng)險(xiǎn)的算法率先立法監(jiān)管，進(jìn)一步加強(qiáng)了對(duì)該領(lǐng)域的監(jiān)管力度。

為了進(jìn)一步推動(dòng)人工智能領(lǐng)域的規(guī)范和發(fā)展，國(guó)家互聯(lián)網(wǎng)信息辦公室于2023年4月11日發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》。

綜合以上三份文件，隨著算法和人工智能技術(shù)的發(fā)展，我國(guó)對(duì)其治理也形成了“算法治理——深度合成治理——生成式人工智能治理”的迭代路徑。

中國(guó)社科院法學(xué)所研究員、科技與法研究中心主任、博士生導(dǎo)師楊延超教授長(zhǎng)期研究人工智能立法問題。在楊延超看來，以上幾部管理辦法的出臺(tái)，體現(xiàn)的是隨著人工智能技術(shù)的進(jìn)步，立法工作也進(jìn)步。

楊延超解釋，最開始出臺(tái)的推薦算法相關(guān)規(guī)則是因?yàn)楹芏嗥脚_(tái)通過算法來提升服務(wù)，使用用戶畫像來計(jì)算用戶偏好，用戶不需要檢索，平臺(tái)就會(huì)自動(dòng)推薦相關(guān)內(nèi)容。推薦算法得到廣泛應(yīng)用以后，最先出臺(tái)的便是關(guān)于推薦算法的管理規(guī)則。后來又出現(xiàn)了深度合成技術(shù)，包括“換臉”技術(shù)等，可以生成語音、圖像。這個(gè)過程也引發(fā)了人們對(duì)于權(quán)利的思考，包括是否會(huì)侵犯人身權(quán)等問題，所以出臺(tái)了深度合成的管理規(guī)則。今年年初，ChatGPT這種生成式人工智能引發(fā)了一系列挑戰(zhàn)，而且目前各個(gè)領(lǐng)域都在用大模型來完成生成式人工智能，生成文字、圖像，甚至代碼、視頻，可以看到人工智能已經(jīng)具備了一定的資料整合、推理、邏輯分析的能力，這是過去人才具備的能力，所以會(huì)產(chǎn)生個(gè)人隱私、數(shù)據(jù)安全、知識(shí)產(chǎn)權(quán)保護(hù)等一系列問題。出于對(duì)這些問題的擔(dān)憂，又開始制定生成式人工智能的管理規(guī)則。這是一個(gè)技術(shù)與法律進(jìn)化的脈絡(luò)。

之所以在今年提出要把人工智能法草案納入立法計(jì)劃，楊延超表示，是因?yàn)槿斯ぶ悄芗夹g(shù)經(jīng)過了多年的積累，今年得到了爆發(fā)式的增長(zhǎng)。在整個(gè)技術(shù)產(chǎn)業(yè)中，大模型成為了一種突破，在此之前，某些局部領(lǐng)域，小模型解決了一定問題，但處在技術(shù)瓶頸中。這一次大模型的發(fā)展，帶來了全新的可以實(shí)現(xiàn)的能力。OpenAI的試驗(yàn)讓人們看到，大模型時(shí)代AI產(chǎn)生了類人的能力。在這么一個(gè)特殊的時(shí)期，立法者、管理者在思考產(chǎn)業(yè)發(fā)展的同時(shí)，也會(huì)考慮到相應(yīng)的風(fēng)險(xiǎn)，通過把規(guī)則制定出來，保證行業(yè)健康發(fā)展。

楊延超表示，過去我國(guó)已經(jīng)制定的法律包括《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》，以及上述關(guān)于推薦算法、深度合成的部門規(guī)章，還有智能駕駛相關(guān)規(guī)定，都成為人工智能立法的前期積累。

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣在接受紅星新聞采訪時(shí)表示，上述幾部法律規(guī)范雖然時(shí)間上有先后，但不是一個(gè)線性發(fā)展的過程，人工智能法草案其實(shí)早有籌備，并且一直在推動(dòng)，在部門規(guī)章層面這種小切口的立法有較快推進(jìn)。

張欣也提出，目前對(duì)于人工智能的立法，各方面的條件已經(jīng)成熟，已經(jīng)在次一層級(jí)有了一些低位階的立法，這對(duì)上位階的立法已經(jīng)有了一定規(guī)范基礎(chǔ)。另一方面，公眾的數(shù)字素養(yǎng)和對(duì)立法需求的認(rèn)知，包括科技企業(yè)的合規(guī)意識(shí)，還有相關(guān)的技術(shù)標(biāo)準(zhǔn)和倫理等有了一定完善。在整個(gè)制度基礎(chǔ)層面，人工智能法立法的基礎(chǔ)已經(jīng)比較成熟。

立法困難何在？

人工智能技術(shù)還處于發(fā)展初期，挑戰(zhàn)重重

楊延超認(rèn)為，目前立法的困難在于，人們對(duì)于人工智能技術(shù)的規(guī)律還不能說有很好的掌握，仍然處于探索期。對(duì)于人工智能技術(shù)可能產(chǎn)生什么樣的風(fēng)險(xiǎn)，還需要總結(jié)和摸索，甚至出現(xiàn)了一些破壞性案例以后才能逐步完善。所以目前的立法只能是相對(duì)原則性的立法。

“各個(gè)法律法規(guī)之間配套是一個(gè)比較大的挑戰(zhàn)。”張欣說，比如在法律層面，數(shù)據(jù)平臺(tái)和算法與人工智能密不可分。之前已經(jīng)有了個(gè)人信息保護(hù)法、電子商務(wù)法、網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法等，這些法律和即將制定的人工智能法之間的關(guān)系是怎么樣的，它的匹配是怎么樣的，需要進(jìn)一步考慮。第二個(gè)挑戰(zhàn)是，目前我國(guó)已經(jīng)在次一級(jí)的立法，比如部門規(guī)章、行政法規(guī)等層面已經(jīng)有了一些立法的基礎(chǔ)，在做更高位階的基礎(chǔ)性法律時(shí)，如何和下面的這些已有的法律規(guī)范進(jìn)行匹配。

張欣說，第三個(gè)挑戰(zhàn)在于人工智能領(lǐng)域變化非?？?，尤其是技術(shù)發(fā)展，生成式人工智能的出現(xiàn)。比如，歐盟的《人工智能法案》，制定的時(shí)候如果沒有ChatGPT出現(xiàn)，它可能不會(huì)是今天的這么一個(gè)迅速改動(dòng)的面貌，可能基本上已經(jīng)通過了。但因?yàn)镃hatGPT的出現(xiàn)，打亂了它制定的節(jié)奏。從歐盟《人工智能法案》的制定就能看出，人工智能領(lǐng)域立法的滯后性越來越明顯。因此，不管對(duì)于我國(guó)還是其他國(guó)家，人工智能立法既做到包容審慎，又給科技創(chuàng)新留下比較充足的彈性空間，能夠具有一定前瞻性難度非常大。這可能需要立法技術(shù)上，包括立法制度上有一個(gè)開放、動(dòng)態(tài)的彈性空間。

立法需要關(guān)注什么？

人工智能涉及面廣，需關(guān)注算力、算法、數(shù)據(jù)

人工智能會(huì)涉及到生產(chǎn)生活的方方面面，比如內(nèi)容治理、數(shù)據(jù)保護(hù)、知識(shí)產(chǎn)權(quán)、智能駕駛等，也有人工智能技術(shù)開發(fā)中的技術(shù)倫理，人工智能應(yīng)用、服務(wù)中可能產(chǎn)生的侵權(quán)問題等。是否這部法律也會(huì)像一個(gè)法典一樣龐大？人工智能法草案會(huì)有哪些內(nèi)容是必備的？

楊延超表示，人工智能在各個(gè)領(lǐng)域都有表現(xiàn)，比如無人駕駛、知識(shí)產(chǎn)權(quán)、金融等，在每個(gè)領(lǐng)域表現(xiàn)出來的法律關(guān)系、權(quán)利義務(wù)、法律責(zé)任都不同。立法的過程大概率會(huì)從部門法中產(chǎn)生的問題進(jìn)行逐步梳理總結(jié)。

楊延超舉例，比如在無人駕駛領(lǐng)域，產(chǎn)生的法律規(guī)則已經(jīng)非常復(fù)雜，但是它的特點(diǎn)與生成式人工智能不同，需要做的是對(duì)傳統(tǒng)交通法規(guī)的變更，過去駕駛員變成了機(jī)器，這里面對(duì)于交通事故過錯(cuò)責(zé)任、侵權(quán)責(zé)任的理解都會(huì)產(chǎn)生根本性變化。其他領(lǐng)域也是如此，立法應(yīng)該在細(xì)分的領(lǐng)域有深耕細(xì)作，然后抽象出來做法典化升級(jí)。

張欣也認(rèn)為，參照個(gè)人信息保護(hù)法、網(wǎng)絡(luò)安全法。人工智能法作為一個(gè)基礎(chǔ)性的法律，可能不會(huì)像歐盟的《人工智能法案》一樣那么長(zhǎng)；可能就人工智能的用戶，服務(wù)的提供者、開發(fā)者、部署者，這些主體的權(quán)利義務(wù)責(zé)任理清楚，而不會(huì)像一個(gè)法典那么龐大。

那么人工智能立法應(yīng)該有哪些必備內(nèi)容？楊延超表示，不論什么領(lǐng)域的人工智能立法，都離不開人工智能三個(gè)要素的規(guī)定和三個(gè)原則的考量。所謂三要素就是：算力、算法、數(shù)據(jù)，因?yàn)椴还芙鉀Q什么樣的人工智能問題都離不開這三個(gè)要素。所謂三個(gè)原則就是：產(chǎn)業(yè)發(fā)展、權(quán)利保護(hù)、倫理考量，制定的法律要保護(hù)人的權(quán)利要經(jīng)得起現(xiàn)代人倫理的考慮，還要能夠促進(jìn)產(chǎn)業(yè)的發(fā)展。

如何處理好風(fēng)險(xiǎn)與發(fā)展的關(guān)系？

專家建議劃定紅線：人工智能不能用于詐騙、數(shù)據(jù)攻擊

制定法律如何既規(guī)避亂象，又不限制技術(shù)發(fā)展，實(shí)現(xiàn)良法善治？楊延超表示，這就要既考慮人工智能風(fēng)險(xiǎn)，又要考慮產(chǎn)業(yè)發(fā)展。因?yàn)槟壳斑€屬于技術(shù)發(fā)展的初期，不宜將很多問題規(guī)定得過細(xì)甚至過嚴(yán)。整部法律還應(yīng)當(dāng)以鼓勵(lì)產(chǎn)業(yè)發(fā)展為主，要確定大的紅線和負(fù)面清單的立法思想。所謂大的紅線和負(fù)面清單就是考慮到人工智能可能給社會(huì)發(fā)展帶來的幾大危害，劃定紅線。比如人工智能不能用于詐騙、數(shù)據(jù)攻擊等。劃好紅線，任何產(chǎn)業(yè)發(fā)展不能逾越。這樣既給了產(chǎn)業(yè)發(fā)展極大空間，又保障了人類社會(huì)基本安全不會(huì)受到侵犯。

張欣表示，人工智能治理一方面要進(jìn)行敏捷治理，同時(shí)又要保證治理具有韌性。在提出這個(gè)治理架構(gòu)和目標(biāo)之后，要依靠一系列的治理工具將它落地，比如在人工智能領(lǐng)域中，算法影響評(píng)估、算法認(rèn)證、算法審計(jì)等都是非常好的治理工具。有了這些工具之后就可以保證它跟這些技術(shù)的發(fā)展是不斷同態(tài)調(diào)整的，這是一個(gè)持續(xù)動(dòng)態(tài)調(diào)整和調(diào)優(yōu)的過程。在人工智能領(lǐng)域當(dāng)中，不管是進(jìn)行立法，還是在整個(gè)治理過程中，需要依賴一系列治理工具把它落地。