美國(guó)越來(lái)越多的城市在禁止或暫停這項(xiàng)技術(shù)的使用，究竟是為何？

近日，舊金山市對(duì)人臉識(shí)別技術(shù)發(fā)出了禁令，禁止該技術(shù)在政府機(jī)關(guān)和執(zhí)法機(jī)關(guān)中使用，從而成為全球首個(gè)對(duì)人臉識(shí)別技術(shù)發(fā)出禁令的城市。

不過(guò)，美國(guó)社會(huì)對(duì)人臉識(shí)別技術(shù)的反對(duì)不止于舊金山。近期，加州奧克蘭市正在考慮出臺(tái)與舊金山類似的法律，同時(shí)，馬薩諸塞州也正考慮在該州中止人臉識(shí)別軟件，直到這項(xiàng)技術(shù)有所提高。

那么問(wèn)題來(lái)了：美國(guó)越來(lái)越多的城市在禁止或暫停這項(xiàng)技術(shù)的使用，究竟是為何？

有缺陷的人臉識(shí)別技術(shù)

客觀上來(lái)說(shuō)，美國(guó)的人臉識(shí)別技術(shù)一直走在科技前沿，并且在商用層面早走動(dòng)作。亞馬遜早在 2016 年就推出了人臉識(shí)別軟件 Rekognition，此外，類似的產(chǎn)品還有谷歌云 Vision API、IBM Watson Visual Recognition 和微軟的 Face API。

盡管如此，目前的人臉識(shí)別技術(shù)還不能夠有百分百的準(zhǔn)確性。2018 年，紐約時(shí)報(bào)英文網(wǎng)站發(fā)表一篇文章就指出，如今非常熱門的 AI 應(yīng)用人臉識(shí)別，針對(duì)不同種族的準(zhǔn)確率差異巨大。其中，針對(duì)黑人女性的錯(cuò)誤率高達(dá) 21%-35%，而針對(duì)白人男性的錯(cuò)誤率則低于 1%——這在美國(guó)可以說(shuō)是非常政治不正確的。

另外一個(gè)值得一提的烏龍事件是：巨頭公司亞馬遜2016 年推出圖像識(shí)別 AI 系統(tǒng) “Rekognition” 曾將 28 名美國(guó)國(guó)會(huì)議員識(shí)別成了罪犯，讓美國(guó)社會(huì)一片嘩然，也對(duì)人臉識(shí)別技術(shù)充滿了質(zhì)疑。

中國(guó)科學(xué)院自動(dòng)化研究所的張曉波博士曾表示，照明、姿勢(shì)、裝飾等都會(huì)對(duì)機(jī)器人臉識(shí)別產(chǎn)生影響，對(duì)于非合作情況下的人臉圖像采集，遮擋問(wèn)題非常嚴(yán)重。

特別是在監(jiān)控環(huán)境中，被監(jiān)控對(duì)象可能佩戴眼鏡，帽子等配件，使得捕獲的人臉圖像可能不完整，影響后續(xù)的特征提取和識(shí)別，甚至導(dǎo)致人臉檢測(cè)算法無(wú)效。

雖然人臉識(shí)別算法的大小隨著人臉數(shù)據(jù)庫(kù)大小的增加而減小，但如何在大規(guī)模應(yīng)用環(huán)境中維持或提高人臉識(shí)別算法的識(shí)別率也是一個(gè)非常重要的問(wèn)題。

你的臉到底屬于誰(shuí)？

在安全性方面，人臉識(shí)別技術(shù)也在美國(guó)面臨著廣泛的質(zhì)疑。

比如說(shuō)，由于人臉識(shí)別的信息存儲(chǔ)仍然基于計(jì)算機(jī)可識(shí)別的語(yǔ)言，即數(shù)字或特定代碼。而隨著這些數(shù)據(jù)價(jià)值的提高，面臨黑客攻擊的風(fēng)險(xiǎn)也會(huì)越來(lái)越高。

也就是說(shuō)，人面識(shí)別技術(shù)背后的支撐是數(shù)據(jù)，如果這些隱私數(shù)據(jù)被竊取，你的臉可能不只屬于自己，可能屬于任何人。

同時(shí)，正如前面提到的，人臉識(shí)別技術(shù)對(duì)于不同種族的人有不同的準(zhǔn)確率，無(wú)論是論文作者的研究，還是廠商的實(shí)驗(yàn)都明確發(fā)現(xiàn)女性深色人種識(shí)別誤差率更高。種族歧視作為美國(guó)社會(huì)中的一個(gè)非常敏感的話題，如果對(duì)人臉識(shí)別技術(shù)的相關(guān)法律還未能夠完善，那么，人臉識(shí)別技術(shù)依然會(huì)處于爭(zhēng)議之中。

不過(guò)，更大的爭(zhēng)議在于，美國(guó)社會(huì)群體對(duì)于 “被監(jiān)控” 本身的反感和憂慮。

此前，亞馬遜以及其他很多科技公司也與美國(guó)警方保持合作，將面部識(shí)別技術(shù)應(yīng)用于視頻監(jiān)控和警察穿戴的相機(jī)鏡頭。包括俄勒岡州在內(nèi)的眾多美國(guó)州立政府已經(jīng)成為 Rekognition 的用戶。

亞馬遜的人臉識(shí)別軟件 Rekognition 能夠?qū)崟r(shí)地辨別、分析和跟蹤。它能夠在幾秒鐘將它收集的信息和數(shù)據(jù)庫(kù)里成千上萬(wàn)個(gè)圖像進(jìn)行比較。執(zhí)法機(jī)關(guān)已經(jīng)將這個(gè)技術(shù)應(yīng)用于尋找失蹤人口和識(shí)別恐怖襲擊中的嫌疑人中。

然而，美國(guó)公民自由聯(lián)盟（American Civil Liberties Union，ACLU）曾“上書(shū)”政府：亞馬遜應(yīng)該停止向美國(guó)政府提供強(qiáng)大且“危險(xiǎn)”的人臉識(shí)別系統(tǒng) Rekognition。

此聯(lián)盟“上書(shū)”后不久，有將近 20 家亞馬遜的股東機(jī)構(gòu)向 Jeff Bezos （雷鋒網(wǎng)按，亞馬遜首席執(zhí)行官）發(fā)出信件，對(duì)亞馬遜 Rekognition 被應(yīng)用于執(zhí)法部門所帶來(lái)的問(wèn)題和影響進(jìn)行擔(dān)憂。

這些股東在信中寫(xiě)到：

亞馬遜股東擔(dān)心這樣的政府監(jiān)視設(shè)施技術(shù)，不僅可能對(duì)全國(guó)客戶和其他利益相關(guān)者構(gòu)成隱私威脅，而且可能提高我們公司面臨的實(shí)質(zhì)性風(fēng)險(xiǎn)，為我們公司的股價(jià)帶來(lái)負(fù)面影響，并為股東增加金融風(fēng)險(xiǎn)。

股東們還擔(dān)心，Rekognition 可能違反女性、有色人種、移民以及其他邊緣化群體的民權(quán)，這些人特別容易成為警方關(guān)注的目標(biāo)。

不僅亞馬遜股東認(rèn)為 Rekognition 會(huì)對(duì)隱私造成侵犯，美國(guó)民眾也有類似的看法。將人臉識(shí)別技術(shù)應(yīng)用到前端視頻監(jiān)控?cái)z像機(jī)上，可能會(huì)打破隱私及實(shí)用性之間的平衡。

假設(shè)美國(guó)警方有若干臺(tái)這樣的安防攝像機(jī)，同時(shí)擁有可疑人員的“黑名單”照片庫(kù)，那么其他任何人如果與這些可疑人員有一些相像，一旦進(jìn)入警察的安防攝像機(jī)的鏡頭之內(nèi)，都有可能受到警務(wù)人員的盤(pán)問(wèn)。而大多數(shù)美國(guó)人不希望生活在那樣的世界里。

不僅亞馬遜的 Rekognition 陷于爭(zhēng)議之中，美國(guó)的海關(guān)和邊境保護(hù)計(jì)劃同樣因?yàn)閼?yīng)用人臉識(shí)別技術(shù)而頗受爭(zhēng)議。

這項(xiàng)計(jì)劃通過(guò)其云端面部生物識(shí)別系統(tǒng)對(duì)旅客進(jìn)行匹配。這種信息匹配服務(wù)旨在取代人工檢票，將旅途中需要出示紙質(zhì)證件的流程改為自動(dòng)識(shí)別。

這個(gè)面部識(shí)別系統(tǒng)旨在快捷。并且，美國(guó)海關(guān)和邊境保護(hù)局（U.S. Customs and Border Protection，以下簡(jiǎn)稱 CBP）認(rèn)為，在對(duì)比護(hù)照照片和人臉時(shí)，面部識(shí)別要比人類更加準(zhǔn)確。在 40 天的時(shí)間里，該系統(tǒng)已在華盛頓杜勒斯機(jī)場(chǎng)協(xié)助發(fā)現(xiàn)了三名冒名頂替者。

但這項(xiàng)技術(shù)可以在你不知情的情況下使用，面部識(shí)別系統(tǒng)收集的不可變的數(shù)據(jù)，也就是面部信息。這引起了人們的擔(dān)憂。如果某人的信息一直被保存，那么，系統(tǒng)便可以一直追查這個(gè)人的行蹤。

而且，CBP 未向公眾采納意見(jiàn)，就已在機(jī)場(chǎng)實(shí)行這一技術(shù)，突破了美國(guó)法律的界限。

面對(duì)爭(zhēng)議，CBP 強(qiáng)調(diào)，這個(gè)項(xiàng)目的存在不是為了監(jiān)視，它的實(shí)施也符合法律規(guī)定。美國(guó)公民可以選擇退出該計(jì)劃，他們的照片不會(huì)被長(zhǎng)期保留。不僅如此，CBP 還發(fā)了聲明，證明有許多法律允許它收集生物特征信息。

但隱私法專家指出，雖然 CBP 列舉的法律適用于非公民，但它們都沒(méi)有明確提到涉及公民的情況。而且，喬治城大學(xué)隱私與技術(shù)法律中心 2017 年發(fā)表的一份報(bào)告稱：在過(guò)去 14 年中可以明顯的看出，美國(guó)公民在該計(jì)劃的相關(guān)法律中一直處于缺席狀態(tài)。

CBP 尚且面臨質(zhì)疑，更不必說(shuō)是其他美國(guó)政府部門了。

在雷鋒網(wǎng)看來(lái)，一個(gè)社會(huì)群體對(duì)于技術(shù)的接納和融入，并不一定都是一帆風(fēng)順的；尤其是對(duì)于美國(guó)這樣注重政治正確和隱私至上的國(guó)家來(lái)說(shuō)，人臉識(shí)別技術(shù)的應(yīng)用更是面臨越來(lái)越嚴(yán)重的尷尬局面。

可以相見(jiàn)的是，人臉識(shí)別技術(shù)在美國(guó)也許會(huì)面臨越來(lái)越多的反對(duì)聲浪，但這究竟是一件好事與否，尚未可知。