電子發(fā)燒友網(wǎng)報道（文/李彎彎）近日，知名作家簡·弗里德曼(Jane Friedman)發(fā)現(xiàn)，亞馬遜上有以她的名義出售的新書，只是這些書不是由她所寫，而是由人工智能(AI)偽造的。

人工智能“偽造”新書并不是新鮮的事情，在當前的網(wǎng)絡(luò)文學(xué)中，已經(jīng)有很大的一部分的網(wǎng)絡(luò)文學(xué)作品都出自人工智能?？梢哉f，只要能夠掌握CahtGPT并且熟練的調(diào)用，不僅能模仿各種作者的風(fēng)格，還可以根據(jù)用戶的要求持續(xù)性的創(chuàng)作。

人工智能偽造新書售賣

弗里德曼告訴媒體，一位細心的讀者想要閱讀更多她的作品，在亞馬遜上購買了一本新書。雖然該書的標題與她過去所寫的主題十分相似，但文字內(nèi)容明顯是由人工智能生成式模仿她的風(fēng)格而成。

她表示：“當我看到這些書時，瀏覽開頭幾頁及簡介，就很明顯大部分內(nèi)容都是由人工智能生成的，因為我在網(wǎng)上有很多免費的內(nèi)容，如寫博客，所以讓人工智能來模仿我的風(fēng)格并不難?！?br />
事實上，AI早就被用來出版書籍。施普林格·自然曾于2019年出版了第一本完全由AI生成的有關(guān)鋰離子電池的圖書，書名為《鋰離子電池：計算機生成的當前研究摘要》。施普林格·自然攜手德國法蘭克福大學(xué)等機構(gòu)合作開發(fā)了一種算法，用這種算法自動編寫了一本有關(guān)鋰離子電池最新研究進展的圖書。

隨后，2021年，施普林格·自然采用混合人機交互方式出版了另一本AI生成的文獻綜述圖書《氣候、行星和進化科學(xué)：計算機生成的文獻綜述》。不同于此前完全基于AI生成的關(guān)于鋰離子電池的圖書，這本新書采用了創(chuàng)新的混合人機交互方式。

新書將人工撰寫的文本和計算機生成的文獻綜述融合起來，計算機根據(jù)施普林格·自然出版的期刊先前發(fā)表的大量文章生成文獻綜述，然后由作者放入圖書的各個章節(jié)并提供科學(xué)觀點。

《CRISPR——計算機生成的文獻綜述》一書則是由施普林格·自然最新的AI平臺自動生成。如今隨著CahtGPT等生成式AI工具的出現(xiàn)，AI模仿作者出書的能力更強。

需要盡快規(guī)范生成式AI的發(fā)展

生成式人工智能工具如ChatGPT目前能夠快速、廉價地產(chǎn)生大量令人信服的文本。一些作家和作者已經(jīng)對此發(fā)出警告，擔(dān)心他們的工作會被這項新技術(shù)取代。同時，還有些作家表示不希望自己的研究成果被用于訓(xùn)練人工智能模型。

上個月，美國立法者與創(chuàng)意產(chǎn)業(yè)成員包括作家協(xié)會進行了會面，討論了人工智能的影響。非營利作家倡導(dǎo)組織作家協(xié)會的首席執(zhí)行官瑪麗·拉森伯格呼吁制定立法保護作家免受人工智能的影響，其中包括要求人工智能公司在訓(xùn)練模型時保持透明度。

此外，超過1萬名作家，包括瑪格麗特·阿特伍德、詹姆斯·帕特森和強納森·法蘭森等人，簽署了一封信，要求微軟、Meta Platforms和Alphabet等公司的領(lǐng)導(dǎo)人在未經(jīng)許可或未支付報酬的情況下不要使用他們的作品來訓(xùn)練人工智能系統(tǒng)。

對于人類社會而言，AI所帶來的挑戰(zhàn)已經(jīng)越來越明顯。業(yè)界認為，盡快通過立法的方式來規(guī)范AI的發(fā)展很有必要。事實上，自ChatGPT發(fā)布以來，許多國家和地區(qū)也意識到其中的風(fēng)險，開始規(guī)制或限制相關(guān)應(yīng)用。例如，歐盟將ChatGPT等生成式人工智能列入高風(fēng)險人工智能清單，意大利等國一度以保護隱私為由在全國范圍內(nèi)禁止使用ChatGPT。

我國不久前發(fā)布《暫行辦法》全面、系統(tǒng)地為生成式人工智能的應(yīng)用設(shè)定了規(guī)制框架。比如，對于生成式人工智能可能產(chǎn)生的風(fēng)險，《暫行辦法》要求生成式人工智能服務(wù)的提供者和使用者遵守法律、行政法規(guī)，尊重社會公德和倫理道德，尤其要做到：其一，不得生成虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；其二，采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視；其三，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢，實施壟斷和不正當競爭行為；其四，不得侵害他人肖像權(quán)、名譽權(quán)、榮譽權(quán)、隱私權(quán)和個人信息權(quán)益；其五，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準確性和可靠性。

小結(jié)

生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)，如今已經(jīng)在多個領(lǐng)域?qū)崿F(xiàn)應(yīng)用。然而，生成式AI為人們的生產(chǎn)生活帶來便利的同時，也帶來了諸多挑戰(zhàn)。當前，除了探索生成式AI落地應(yīng)用，也需要積極思考如何規(guī)范AI的發(fā)展，以保證其真正賦能人們的生產(chǎn)生活，而不是造成危害。