1.4億張圖像!史上最大人臉識別數據研究顯示不知情隱私泄露情況加劇

近日，Mozilla的伊尼盧瓦·德博拉·拉吉(Inioluwa Deborah Raji)和紐約大學跨學科研究機構AI Now Institute的技術研究員吉納維芙·弗里德(Genevieve Fried)就人臉識別數據研究發表了一篇名為About Face: A Survey of Facial Recognition Evaluation的論文。

論文就1976年至2019年之間的100多個臉部數據集進行研究，其研究范圍包括來自超過1700萬個調查對象的1.45億張圖像。《麻省理工學院技術評論》發文稱該論文是“有史以來規模最大的人臉識別數據研究，并且表明了深度學習的興起在多大程度上加劇了隱私的喪失”。

論文研究發現，在深度學習對數據的爆炸式增長的驅動下，研究人員逐漸開始不征求人們同意，從而導致越來越多的人的個人照片在他們不知情的情況下被整合到監視系統中。

論文主要確定了面部識別發展的四個歷史階段，分別為：第一階段(1964-1995)早期研究階段;第二階段(1996-2006)被稱為“新生物識別”的商業可行性階段;第三階段(2007-2013)不受限制設置的主流開發階段;第四階段(2014年-以后)深度學習的突破階段。

人臉識別的四大階段：隨著研究人員對技術準確性要求的不斷提高，人臉識別數據集的規模呈指數增長。

外媒就該論文對人臉識別的研究，總結出了9個令人恐懼又驚訝的結果：

1.人臉識別在學術環境中的表現與實際應用之間有著巨大的鴻溝

兩位作者研究該項目的最主要原因之一是，為什么人臉識別在系統測試準確率接近100%時，在現實世界中的應用依然存在嚴重缺陷。例如，人臉識別在識別黑人和棕色人種時準確性較差，最近也有報道顯示，有三名黑人因被該技術錯誤識別后被相繼逮捕，同時在這三起案件中，被技術錯誤識別的人都是黑人。

2.美國國防部對該技術的最初發展負有責任

盡管人臉識別技術的開發始于學術環境，但國防部和美國國家標準與技術研究院(NIST)于1996年將650萬美元撥款投入，創建了迄今為止最大的數據集，此后這項技術開始起步。政府對這一領域很感興趣，因為在用于監視時，它與指紋識別不同，不需要人們積極主動參與。

3.早期用于創建人臉識別數據的照片來自人像拍攝，這就產生了重大缺陷

在2000年代中期之前，研究人員積累數據庫的方式是讓人們坐下來拍照。由于現在的一些基本面部識別技術數據正是來自于此，所以人臉肖像技術的缺陷也產生了共鳴，即參與者類型單一并且無法準確反映現實情況的階段設置。

4.當人像拍攝不夠時，研究人員便開始抓取Google并不再征求被攝對象的同意

2007年，一個名為“野生標簽的面孔(Labeled Faces in the Wild)(LFW)”數據集的出現，使研究人員開始直接從Google，Flickr和Yahoo下載圖像，而無需擔心是否同意，其中還包括兒童的照片。其他研究人員隨后匯編的名為“LFW +”的數據集，也放寬了對未成年人的納入標準，使用帶有“嬰兒”，“少年”和“青少年”等搜索詞的照片來增加多樣性。雖然這使照片的類型更加豐富，但它也放棄了被攝對象的隱私權。

野生標簽的面孔(Labeled Faces in the Wild)(LFW)主頁。

5.人臉識別的下一次繁榮來自Facebook

2014年，Facebook使用其用戶照片訓練了一種稱為DeepFace的深度學習模型。Facebook展示了數百萬張照片如何創建出更好地可以完成人臉識別任務的神經網絡，從而使深度學習成為現代人臉識別的基石。

6.Facebook的大規模人臉識別活動侵犯了用戶的隱私

由于Facebook利用其用戶上傳的照片進行人臉識別，而未征得該用戶的肯定同意，由此被聯邦貿易委員會(FTC)處以罰款，并向伊利諾伊州支付了一項和解金。

7.僅在公共數據集中，人臉識別就已經在1770萬人的人臉上進行了訓練

事實上，我們不知道在人臉識別技術發展的過程中，使用了多少人的照片，和這些人的真實身份。

8.人臉識別的自動化促生了令人反感的標簽系統以及不平等的代表性

人臉識別系統已經超越了識別面部或人物的范圍，他們還可以以令人反感的方式標記人物及其屬性，其中就包括一些諸如“胖子”、“雙下巴”、“大鼻子”、“大嘴唇”和“眼袋”等潛在侮辱性的標簽。而研究也表明，人工智能中的歧視會強化現實世界中的歧視。

9.人臉識別技術的應用范圍從政府監視延伸到廣告定位

目前人臉識別技術不僅深耕于其本身的領域，其如今的發展也遠超過1970年代其創造者的想象。論文中表明，從歷史背景上可以看出，政府從一開始就促進和支持了這項技術，以便于實現刑事調查和監視。亞馬遜已經將其有問題的Rekognition技術出售給了無數警察部門就是其中一個例子。

論文在結論中闡明，人臉識別技術帶來了復雜的道德和技術挑戰，忽視或者分解這種復雜性，對于那些部署不當的人，也包括我們自己是不利的。

作者之一的拉吉希望這篇論文能夠激發研究人員思考深度學習帶來的性能提升、失去共識、細致的數據驗證和詳盡的文檔記錄之間的權衡，她同時敦促那些想要繼續建立人臉識別功能的人考慮開發不同的技術：“要讓我們真正嘗試使用該工具而又不傷及人，則需要重新設想我們所知道的一切。”