人臉識別技術經歷了技術引進、市場教育、技術完善，到各行各業各領域采用數個階段，如今已經發展相對成熟，服務于智慧安防、智慧辦公、電子商務等各個領域。但近幾年隨著人臉識別技術廣泛普及，隨之而來的問題也不斷出現……

如果說這是一個屬于人臉識別技術全面應用的時代，相信大多數人是不會站出來反駁這一觀點的。

人臉識別技術經歷了技術引進、市場教育、技術完善，到各行各業各領域采用數個階段，如今已經發展相對成熟，在街道、樓宇、煤礦、商廈、銀行等各個角落，服務于智慧安防、智慧辦公、電子商務等各個領域。

但是，“否定之否定規律”早已揭示，所有事物的發展都是一個螺旋式上升或波浪式前進的運動過程，而并非一帆風順、一蹴而就的。就在近日，歐洲議會投票表決，通過了一項“呼吁全面禁止基于AI生物識別技術大規模監控”的提議，從監管層面進一步收緊了人臉識別技術的應用。

歐洲議會成員Petar Vitanov在決議通過后發表聲明稱，“人類的基本權利是無條件的。我們有史以來第一次呼吁暫停部署用于執法的面部識別系統，因為該技術已被證明是無效的，并且經常導致歧視性結果。這份報告對所有歐洲公民來說都是一個巨大的勝利。”

從被外界炒作的“黑科技”到人民避而遠之的“瘟疫”，基于AI的人臉識別究竟犯了什么樣的錯誤，才引起了監管部門的注意，對于其未來的發展，又給國內監管部門和企業帶來了哪些啟示？ 

數張“罪狀”揭示，人臉識別并非人畜無害

在過去持續一年多的疫情當中 ， 人臉識別技術撐起的無接觸式防疫應用深入人心 ， 讓外界飽嘗技術帶來的科技紅利 ， 因而也讓 人們容易給人臉識別技術打上“善良”的標簽，從而忽視它本身的兩面性。

2020年1月，美國發生了首起已知的涉及人臉識別技術的錯誤逮捕事件。根據6月美國公民自由聯盟（ACLU）向底特律警察局提出的行政投訴顯示，年初，來自底特律的羅伯特·威廉姆斯被當地警方指控犯有盜竊罪，并在威廉姆斯妻兒的注視下將其逮捕，拘留時間長達30個小時。

根據ACLU的投訴，底特律警方將一名黑人男子從Shinola商店偷竊手表的視頻提供給了密歇根州警方，隨后警方通過人臉識別系統運行該視頻，并建議將威廉姆斯的照片作為潛在的匹配對象。之后，在警方并無過多證據表明威廉姆斯就是嫌疑人的情況下，最終發生了這荒誕的一幕。

無獨有偶，羅伯特·威廉姆斯的遭遇并非個例。同樣來自底特律的邁克爾·奧利弗也因為人臉識別判定涉嫌盜竊罪，被關押了十天半；尼爾·帕克斯也因被認定盜竊，在伍德布里奇市被拘留了十天。而值得注意的是，以上在美國發生的這些案件，被誤認為犯罪嫌疑人的當事人均為黑人，因此也引起了媒體對算法歧視的關注。

早在2018年，MIT媒體實驗室（MIT Media Lab）研究員Joy Buolamwini就與來自微軟的科學家Timnit Gebru合作發布了一篇研究論文《性別圖譜：商用性別分類技術中的種族準確率差異》（Gender Shades: Intersectional Accuracy Disparitiesin Commercia lGender Classification），其中作者將微軟、IBM和曠視科技三家人臉識別技術進行對比，結果顯示，AI應用人臉識別針對黑人女性的錯誤率高達21％－35％，而針對白人男性的錯誤率則低于1％，不同種族的準確率差異巨大。

時間一晃來到現在，這一問題不但沒有被解決，反而愈發突出。

在國內，目前尚未發現人臉識別應用于警務活動中出現差錯的情況，但該技術在其他應用中出現問題的案例也是屢見不鮮。比如2018年寧波交警行人闖紅燈曝光臺就曾鬧出一出烏龍，人臉識別將噴涂在公交車上的董明珠廣告人像錯當成了橫穿馬路的路人，結果有了“格力電器董事長董明珠違法闖紅燈”的笑談。

在今年的315晚會上，基于人臉識別非法采集個人人臉數據的案例也被第一個拿出來開刀。人臉識別技術作為生物特征識別的重要技術之一，具有非接觸和非侵犯的特性，因而人們在不知不覺中就會被采集數據，并對之抱有最小的排斥心理。

但人臉信息屬于個人獨有的生物識別信息，具有不可篡改的特征，目前有很多用戶將其作為支付密碼、賬號密碼等。國家市場監管總局發布的《個人信息安全規范》明確規定，人臉信息屬于生物識別信息，也屬于個人敏感信息，收集個人信息時，應獲得個人信息主體的授權同意。

個人隱私成為國內外共同的難題

本次歐洲議會決議主要針對的是警察和司法機關在犯罪問題上對 AI 的使用 ， 歐洲委員會在報告中對遠程人臉識別呼吁 ， “通過立法和非立法手段 ， 必要時通過侵權訴訟 ， 禁止出于執法目的生物識別數據處理 ， 包括通過面部圖像識別 、 在公共場所進行大規模監視 。 ” 

比如，該決議中反對執法機構利用人工智能根據歷史數據和過去的行為、群體成員、位置或任何其他此類特征，對個人或群體進行行為預測，從而試圖識別可能犯罪的人。此外，決議還強調了人的作用，避免過度相信人工智能工具表面上的“客觀”和“科學”，強調算法應該具有的透明、可追溯、充分記錄等特征。

實際上，對于基于AI技術的人臉識別技術的應用，國內外較早以前就已經表現出一定的重視。

早在今年4月21日，歐盟委員會就公布了名為 “Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts” 的草案，對人工智能技術應用進行了風險評定。其中，人臉識別技術作為基于AI實時遠程生物識別技術的一種，是歐盟委員會著重強調進行限制的人工智能技術。

草案對人工智能應用場景進行了“低、有限、高、不可接受”四個風險等級的定性，等級越高的應用場景意味著受到的限制越嚴格。

人臉識別在很大程度上侵犯了人們的隱私，并且所有遠距離生物識別系統在這份草案中都被認定為高風險，禁止執法部門在公共場合使用這一技術。該草案還提出，除尋找失蹤兒童，解除恐怖襲擊威脅以及在法律允許范圍內追查特定的刑事犯罪嫌疑人等三種特定情況外，無差別的大規模監控會被歐盟全面禁止。

而在大洋彼岸的美國，對于人臉識別技術的使用也十分審慎。2019年，美國有9個州都頒布了關于禁用人臉識別技術的法案，嚴禁警察、政府部門以及在公共場合使用人臉識別技術。舊金山為美國大城市禁用人臉識別開出了第一槍，隨后包括波特蘭、奧克蘭、波士頓在內的城市都已禁止政府使用人臉識別技術，今年7月，美國第一大經濟中心紐約也加入了這一行列。

除此之外，美國的巨頭們也在這一方面退縮了，去年6月，藍色巨人IBM旗幟鮮明的宣布放棄人臉識別業務，不再提供任何人臉識別和人臉分析軟件，同時也不再對這項技術進行研究和開發。另外幾家巨頭如亞馬遜、谷歌等，也表示暫?；蚍艞壢四樧R別相關業務的開發。

在我國，針對個人數據安全的法案也被提上日程，人臉識別等人工智能技術的監管也日加嚴格。今年1月1日正式實施的《民法典》中規定，處理個人信息，應征的該自然人或其監護人的同意；4月23日，國家標準化管理委員會發布《信息安全技術人臉識別數據安全要求》征求意見稿，也對人臉識別技術應用場景、安全要求、數據采集和處理等環節制定了標準化規范。

8月20日，立法通過的《個人信息保護法》再次明確：在公共場所安裝圖像采集、個人身份識別設備，應當為維護公共安全所必需，遵守國家有關規定，并設置顯著的提示標識。所收集的個人圖像、身份識別信息只能用于維護公共安全的目的，不得用于其他目的；取得個人單獨同意的除外。

人臉識別不能“一刀切”，用好雙刃劍的有利面

至于如何評價此次歐洲議會的決議 ， 相信大家也是各執一詞 ， 有著不同的見解 。 人臉識別技術本身存在的問題確實在近幾年暴露無遺 ， 但 “一刀切”的做法顯然對于一項進步的技術來說并不合適 。 

問題的關鍵在于當技術解決不了當下存在的問題時，它就會像一把雙刃劍，一方面方便著人們生活，提高社會效率；另一方面卻又利刃出鞘，鋒芒相向。

就像歐洲議會上表示，“人工智能在執法領域的應用提供了巨大機遇，特別是能夠有效打擊金融犯罪如洗錢、恐怖主義融資，以及網絡犯罪如虐待兒童等，有助于歐盟公民的安全保障。但同時，數據顯示AI識別對少數民族、老年人和女性的誤識率更高，這可能對人們的基本權利構成重大風險?！?/p>

在考慮基于AI技術的人臉識別是否應該被全面禁止還是繼續沿用，都需要考慮其風險和效果之間是否成正比，避免人臉識別造成任何有害的影響。

參考資料

1.《公共場所人臉識別或全面被禁！剛剛，歐洲議會決議，AI監管再收緊》，新智元

2.《歐洲議會決議禁止警方公共場所人臉識別，因算法歧視弊大于利》，AI前哨站

3.《歐盟最新AI監管草案：全面禁止大規模監控、嚴限人臉識別》，學術頭條

（原標題：政策重拳出擊，公共場所人臉識別或全面被禁，基于AI的生物識別都犯了哪些“罪狀”？）

本文來自微信公眾號 “物聯網智庫”（ID：iot101），作者：Alex，36氪經授權發布。