人類是否會成為人工智能手下敗將？

如果你身在 20 世紀 80 年代、90 年代左右，你可能還記得已經(jīng)消失的“電腦恐懼癥”。

直到 21 世紀初，我還親身經(jīng)歷過隨著個人電腦在我們的生活、工作和家庭中出現(xiàn)，很多人會焦慮、恐懼甚至出現(xiàn)攻擊行為。

雖然其中的一些人被電腦吸引，并且看到了電腦的潛力，但大多數(shù)人并不了解電腦。這些人對電腦感到陌生、費解，并在許多方面存在著威脅。他們害怕被技術(shù)取代。

大多數(shù)人對技術(shù)的態(tài)度，最好的情況是反感，最壞的情況是恐慌——也許對任何變化，人們的反應(yīng)都是這樣的。

值得注意的是：我們所擔(dān)心的，大部分都是杞人憂天。

讓我們快進一下：因電腦而擔(dān)憂的人已經(jīng)不能沒有電腦了，并且他們用電腦為自己謀利。計算機并沒有取代我們，也沒有引發(fā)大規(guī)模失業(yè)。反倒是現(xiàn)在，我們無法想象沒有筆記本電腦、平板電腦和智能手機的生活。昔日的杞人憂天卻朝著相反的方向發(fā)展，我們的擔(dān)憂未能實現(xiàn)。

但同時，在 20 世紀 80 年代和 90 年代，沒有人警告我們電腦和互聯(lián)網(wǎng)將會產(chǎn)生一定的威脅——無處不在的大規(guī)模監(jiān)控：黑客通過追蹤網(wǎng)絡(luò)設(shè)施或者個人數(shù)據(jù)，人們通過社交網(wǎng)絡(luò)表現(xiàn)出心理異化，人們的耐心和注意力喪失，網(wǎng)上易受政治思想或宗教激進化的影響，敵對的境外勢力劫持社交網(wǎng)絡(luò)以破壞國家主權(quán)。

如果大部分的恐懼變得非理性的話，相反地，人們才發(fā)現(xiàn)過去由于技術(shù)變化而產(chǎn)生的擔(dān)憂已成為現(xiàn)實。

一百年前，我們無法真正預(yù)測到，正在開發(fā)的運輸和制造技術(shù)將導(dǎo)致新的工業(yè)戰(zhàn)爭，而這在兩次世界大戰(zhàn)中使數(shù)千萬人喪生。我們并沒有過早地意識到電臺的發(fā)明，會促成一種新的大眾傳播形式，這種形式有助于意大利和德國的法西斯主義興起。

20 世紀 20 年代和 30 年代理論物理學(xué)的發(fā)展的同時，并沒有相應(yīng)的帶有焦慮性的前瞻報道，即關(guān)于這些理論發(fā)展如何能夠很快落地并發(fā)展成核武器，使世界永遠處于即將毀滅的恐慌之中。而當(dāng)今，即便是被關(guān)注十多年的氣候等嚴重問題，大部分美國人（44%）也仍然會選擇忽視。

作為一種文明，我們似乎很難正確辨別它們的未來是好是壞，正如我們因非理性的恐懼而出現(xiàn)恐慌一樣。

與過去一樣，當(dāng)前我們依然處在一場根本性變革的新浪潮當(dāng)中：認知自動化，它可以概括為“人工智能（AI）”。與過去一樣，我們擔(dān)心這種新技術(shù)會傷害我們——人工智能會導(dǎo)致大規(guī)模失業(yè)，或者人工智能會擁有自己的機構(gòu)，變成超人，把我們摧毀。

但如果這些擔(dān)心是多余的，就像我們以前一樣？如果人工智能的真正危險與當(dāng)下令人驚慌的“超級智能”和“奇點”敘述大相徑庭呢？

在本文，我想和大家聊聊讓我對人工智能憂心忡忡的問題是：人工智能對人類行為具有高效、可擴展性操作的能力，以及企業(yè)和政府對人工智能的濫用。

當(dāng)然，這不是唯一的有形風(fēng)險，還有很多，特別是與機器學(xué)習(xí)模型有害偏見相關(guān)的問題;就這個問題，其他人的見解比我更加出色。

本文選擇從大規(guī)模人口控制的角度進行切入，是因為我認為這種風(fēng)險是迫切并且被嚴重低估的。

今天，這種風(fēng)險已經(jīng)變?yōu)楝F(xiàn)實，在接下來的幾十年里，許多技術(shù)會有增強的趨勢。

我們的生活越來越數(shù)字化，社交媒體公司越來越了解我們的生活和想法。與此同時，他們越來越多地使用一些手段控制我們獲取信息，特別是通過算法手段。他們將人類行為視為一個可優(yōu)化的問題，一個人工智能問題：社交媒體公司調(diào)整算法變量實現(xiàn)某種特定行為，就像游戲人工智能會改進游戲策略一樣。這個過程中唯一的瓶頸就是算法。這些事情都正在發(fā)生或即將到來，最大的社交網(wǎng)絡(luò)公司目前正在潛心研究人工智能技術(shù)，并在相關(guān)項目上投資了數(shù)十億美元。

接下來的討論，我將分成以下幾部分，對上面的問題進行拆解并詳細描述：

社交媒體是一種心理監(jiān)獄

內(nèi)容消費是心理控制載體

用戶行為是待優(yōu)化的問題

當(dāng)前的情況

反面：人工智能能為我們做什么

反社交媒體的構(gòu)建

結(jié)論：在前進的岔道口上

一、社交媒體是一種心理監(jiān)獄

在過去的 20 年中，我們的私人和公共生活已經(jīng)轉(zhuǎn)移到網(wǎng)絡(luò)上。我們每天用更多的時間盯著屏幕。我們的世界正在轉(zhuǎn)向某個狀態(tài)，在這個狀態(tài)中我們所做的大部分事都由內(nèi)容消費、修改或創(chuàng)造構(gòu)成的。

這種趨勢的反面是：企業(yè)和政府正在大量收集我們的數(shù)據(jù)，特別是通過社交網(wǎng)絡(luò)了解我們與誰交流，我們說什么，我們在看什么內(nèi)容——圖片、電影、音樂以及新聞，我們在特定時間的心情，等等。最終，幾乎與我們相關(guān)的一切最終都會以數(shù)據(jù)的形式記錄在某個服務(wù)器上。

理論上，這些數(shù)據(jù)能夠讓收集的企業(yè)和政府為個人以及團體建立非常準確的心理畫像。你的觀點和行為可以與成千上萬的“同類”產(chǎn)生共鳴，讓你對所選的內(nèi)容有不可思議的理解——這可能比你單純通過自省的手段要好的多。

例如，通過 Facebook 的“喜歡”功能更好地評估朋友的個性。大量的數(shù)據(jù)讓下面這些成為可能：提前幾天預(yù)測用戶何時（與誰）建立關(guān)系，何時結(jié)束關(guān)系;誰有自殺傾向;在選舉中，用戶最終會票投給誰——即便是那時用戶仍猶豫不決。

這不僅僅能對個人進行分析，對大型團隊的預(yù)測能做得更好（擁有大量數(shù)據(jù)消除其中的隨機性以及異常值）。

二、內(nèi)容消費是心理控制載體

被收集數(shù)據(jù)還只是個開始，社交網(wǎng)絡(luò)越來越多地控制著我們獲取的內(nèi)容。

目前，我們看到的內(nèi)容大多是算法在起作用。算法越來越多地影響并決定我們閱讀的政治文章、我們看到的電影預(yù)告片、與我們保持聯(lián)系的人，甚至是我們收到誰關(guān)于自己的反饋。

綜合多年的報道，算法對我們的生活有相當(dāng)大的影響——比如我們是誰、我們會成為誰。

如果 Facebook 能夠在較長時間內(nèi)能夠決定你將看到哪些新聞（或真或假），以及決定你的政治地位的變化，甚至?xí)Q定誰會看到有關(guān)你的新聞;那么，F(xiàn)acebook 就會實際控制你的世界觀以及政治信仰。

Facebook 的業(yè)務(wù)在于影響人們，從而向廣告主提供服務(wù)。

Facebook 建立了一個微調(diào)算法引擎，這個算法引擎不僅能夠影響你對品牌或購買智能音箱的看法。調(diào)整這個算法給你的內(nèi)容，能夠影響并控制你的情緒——這個算法甚至能夠改變選舉結(jié)果。

三、用戶行為是待優(yōu)化的問題

社交網(wǎng)絡(luò)能夠在衡量我們一切的同時，控制我們獲取的內(nèi)容——而這一切正在加速發(fā)展。

當(dāng)我們感知并行動時，就會考慮人工智能問題了。

你能夠建立一個行為的優(yōu)化循環(huán)，在這個循環(huán)中，可以觀察目標當(dāng)前狀態(tài)并不斷調(diào)整提供的信息，直到目標。人工智能領(lǐng)域的一大子集——特別是“強化學(xué)習(xí)”——是關(guān)于開發(fā)算法來有效地解決待優(yōu)化的問題，從而關(guān)閉循環(huán)并完全控制目標。在這種情況下，通過把我們的生活轉(zhuǎn)移到數(shù)字領(lǐng)域，我們會易受人工智能影響。