物聯(lián)網(wǎng)智庫(kù) 原創(chuàng)

轉(zhuǎn)載請(qǐng)注明來(lái)源和出處

導(dǎo)  讀

人臉識(shí)別技術(shù)經(jīng)歷了技術(shù)引進(jìn)、市場(chǎng)教育、技術(shù)完善,到各行各業(yè)各領(lǐng)域采用數(shù)個(gè)階段,如今已經(jīng)發(fā)展相對(duì)成熟,服務(wù)于智慧安防、智慧辦公、電子商務(wù)等各個(gè)領(lǐng)域。但近幾年隨著人臉識(shí)別技術(shù)廣泛普及,隨之而來(lái)的問(wèn)題也不斷出現(xiàn)……

如果說(shuō)這是一個(gè)屬于人臉識(shí)別技術(shù)全面應(yīng)用的時(shí)代,相信大多數(shù)人是不會(huì)站出來(lái)反駁這一觀點(diǎn)的。

人臉識(shí)別技術(shù)經(jīng)歷了技術(shù)引進(jìn)、市場(chǎng)教育、技術(shù)完善,到各行各業(yè)各領(lǐng)域采用數(shù)個(gè)階段,如今已經(jīng)發(fā)展相對(duì)成熟,在街道、樓宇、煤礦、商廈、銀行等各個(gè)角落,服務(wù)于智慧安防、智慧辦公、電子商務(wù)等各個(gè)領(lǐng)域。

但是,“否定之否定規(guī)律”早已揭示,所有事物的發(fā)展都是一個(gè)螺旋式上升或波浪式前進(jìn)的運(yùn)動(dòng)過(guò)程,而并非一帆風(fēng)順、一蹴而就的。就在近日,歐洲議會(huì)投票表決,通過(guò)了一項(xiàng)“呼吁全面禁止基于AI生物識(shí)別技術(shù)大規(guī)模監(jiān)控”的提議,從監(jiān)管層面進(jìn)一步收緊了人臉識(shí)別技術(shù)的應(yīng)用。

歐洲議會(huì)成員Petar Vitanov在決議通過(guò)后發(fā)表聲明稱,“人類的基本權(quán)利是無(wú)條件的。我們有史以來(lái)第一次呼吁暫停部署用于執(zhí)法的面部識(shí)別系統(tǒng),因?yàn)樵摷夹g(shù)已被證明是無(wú)效的,并且經(jīng)常導(dǎo)致歧視性結(jié)果。這份報(bào)告對(duì)所有歐洲公民來(lái)說(shuō)都是一個(gè)巨大的勝利�！�

從被外界炒作的“黑科技”到人民避而遠(yuǎn)之的“瘟疫”,基于AI的人臉識(shí)別究竟犯了什么樣的錯(cuò)誤,才引起了監(jiān)管部門的注意,對(duì)于其未來(lái)的發(fā)展,又給國(guó)內(nèi)監(jiān)管部門和企業(yè)帶來(lái)了哪些啟示?

數(shù)張“罪狀”揭示,人臉識(shí)別并非人畜無(wú)害

在過(guò)去持續(xù)一年多的疫情當(dāng)中,人臉識(shí)別技術(shù)撐起的無(wú)接觸式防疫應(yīng)用深入人心,讓外界飽嘗技術(shù)帶來(lái)的科技紅利,因而也讓人們?nèi)菀捉o人臉識(shí)別技術(shù)打上“善良”的標(biāo)簽,從而忽視它本身的兩面性。

2020年1月,美國(guó)發(fā)生了首起已知的涉及人臉識(shí)別技術(shù)的錯(cuò)誤逮捕事件。根據(jù)6月美國(guó)公民自由聯(lián)盟(ACLU)向底特律警察局提出的行政投訴顯示,年初,來(lái)自底特律的羅伯特·威廉姆斯被當(dāng)?shù)鼐�方指控犯有盜竊罪,并在威廉姆斯妻兒的注視下將其逮捕,拘留時(shí)間長(zhǎng)達(dá)30個(gè)小時(shí)。

根據(jù)ACLU的投訴,底特律警方將一名黑人男子從Shinola商店偷竊手表的視頻提供給了密歇根州警方,隨后警方通過(guò)人臉識(shí)別系統(tǒng)運(yùn)行該視頻,并建議將威廉姆斯的照片作為潛在的匹配對(duì)象。之后,在警方并無(wú)過(guò)多證據(jù)表明威廉姆斯就是嫌疑人的情況下,最終發(fā)生了這荒誕的一幕。

無(wú)獨(dú)有偶,羅伯特·威廉姆斯的遭遇并非個(gè)例。同樣來(lái)自底特律的邁克爾·奧利弗也因?yàn)槿四樧R(shí)別判定涉嫌盜竊罪,被關(guān)押了十天半;尼爾·帕克斯也因被認(rèn)定盜竊,在伍德布里奇市被拘留了十天。而值得注意的是,以上在美國(guó)發(fā)生的這些案件,被誤認(rèn)為犯罪嫌疑人的當(dāng)事人均為黑人,因此也引起了媒體對(duì)算法歧視的關(guān)注。

早在2018年,MIT媒體實(shí)驗(yàn)室(MIT Media Lab)研究員Joy Buolamwini就與來(lái)自微軟的科學(xué)家Timnit Gebru合作發(fā)布了一篇研究論文《性別圖譜:商用性別分類技術(shù)中的種族準(zhǔn)確率差異》(Gender Shades: Intersectional Accuracy Disparitiesin Commercia lGender Classification),其中作者將微軟、IBM和曠視科技三家人臉識(shí)別技術(shù)進(jìn)行對(duì)比,結(jié)果顯示,AI應(yīng)用人臉識(shí)別針對(duì)黑人女性的錯(cuò)誤率高達(dá)21%-35%,而針對(duì)白人男性的錯(cuò)誤率則低于1%,不同種族的準(zhǔn)確率差異巨大。

時(shí)間一晃來(lái)到現(xiàn)在,這一問(wèn)題不但沒(méi)有被解決,反而愈發(fā)突出。

在國(guó)內(nèi),目前尚未發(fā)現(xiàn)人臉識(shí)別應(yīng)用于警務(wù)活動(dòng)中出現(xiàn)差錯(cuò)的情況,但該技術(shù)在其他應(yīng)用中出現(xiàn)問(wèn)題的案例也是屢見不鮮。比如2018年寧波交警行人闖紅燈曝光臺(tái)就曾鬧出一出烏龍,人臉識(shí)別將噴涂在公交車上的董明珠廣告人像錯(cuò)當(dāng)成了橫穿馬路的路人,結(jié)果有了“格力電器董事長(zhǎng)董明珠違法闖紅燈”的笑談。

在今年的315晚會(huì)上,基于人臉識(shí)別非法采集個(gè)人人臉數(shù)據(jù)的案例也被第一個(gè)拿出來(lái)開刀。人臉識(shí)別技術(shù)作為生物特征識(shí)別的重要技術(shù)之一,具有非接觸和非侵犯的特性,因而人們?cè)诓恢�不覺中就會(huì)被采集數(shù)據(jù),并對(duì)之抱有最小的排斥心理。

但人臉信息屬于個(gè)人獨(dú)有的生物識(shí)別信息,具有不可篡改的特征,目前有很多用戶將其作為支付密碼、賬號(hào)密碼等。國(guó)家市場(chǎng)監(jiān)管總局發(fā)布的《個(gè)人信息安全規(guī)范》明確規(guī)定,人臉信息屬于生物識(shí)別信息,也屬于個(gè)人敏感信息,收集個(gè)人信息時(shí),應(yīng)獲得個(gè)人信息主體的授權(quán)同意。

個(gè)人隱私成為國(guó)內(nèi)外共同的難題

本次歐洲議會(huì)決議主要針對(duì)的是警察和司法機(jī)關(guān)在犯罪問(wèn)題上對(duì)AI的使用,歐洲委員會(huì)在報(bào)告中對(duì)遠(yuǎn)程人臉識(shí)別呼吁,“通過(guò)立法和非立法手段,必要時(shí)通過(guò)侵權(quán)訴訟,禁止出于執(zhí)法目的生物識(shí)別數(shù)據(jù)處理,包括通過(guò)面部圖像識(shí)別、在公共場(chǎng)所進(jìn)行大規(guī)模監(jiān)視�！�

比如,該決議中反對(duì)執(zhí)法機(jī)構(gòu)利用人工智能根據(jù)歷史數(shù)據(jù)和過(guò)去的行為、群體成員、位置或任何其他此類特征,對(duì)個(gè)人或群體進(jìn)行行為預(yù)測(cè),從而試圖識(shí)別可能犯罪的人。此外,決議還強(qiáng)調(diào)了人的作用,避免過(guò)度相信人工智能工具表面上的“客觀”和“科學(xué)”,強(qiáng)調(diào)算法應(yīng)該具有的透明、可追溯、充分記錄等特征。

實(shí)際上,對(duì)于基于AI技術(shù)的人臉識(shí)別技術(shù)的應(yīng)用,國(guó)內(nèi)外較早以前就已經(jīng)表現(xiàn)出一定的重視。

早在今年4月21日,歐盟委員會(huì)就公布了名為 “Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts” 的草案,對(duì)人工智能技術(shù)應(yīng)用進(jìn)行了風(fēng)險(xiǎn)評(píng)定。其中,人臉識(shí)別技術(shù)作為基于AI實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù)的一種,是歐盟委員會(huì)著重強(qiáng)調(diào)進(jìn)行限制的人工智能技術(shù)。

草案對(duì)人工智能應(yīng)用場(chǎng)景進(jìn)行了“低、有限、高、不可接受”四個(gè)風(fēng)險(xiǎn)等級(jí)的定性,等級(jí)越高的應(yīng)用場(chǎng)景意味著受到的限制越嚴(yán)格。

人臉識(shí)別在很大程度上侵犯了人們的隱私,并且所有遠(yuǎn)距離生物識(shí)別系統(tǒng)在這份草案中都被認(rèn)定為高風(fēng)險(xiǎn),禁止執(zhí)法部門在公共場(chǎng)合使用這一技術(shù)。該草案還提出,除尋找失蹤兒童,解除恐怖襲擊威脅以及在法律允許范圍內(nèi)追查特定的刑事犯罪嫌疑人等三種特定情況外,無(wú)差別的大規(guī)模監(jiān)控會(huì)被歐盟全面禁止。

而在大洋彼岸的美國(guó),對(duì)于人臉識(shí)別技術(shù)的使用也十分審慎。2019年,美國(guó)有9個(gè)州都頒布了關(guān)于禁用人臉識(shí)別技術(shù)的法案,嚴(yán)禁警察、政府部門以及在公共場(chǎng)合使用人臉識(shí)別技術(shù)。舊金山為美國(guó)大城市禁用人臉識(shí)別開出了第一槍,隨后包括波特蘭、奧克蘭、波士頓在內(nèi)的城市都已禁止政府使用人臉識(shí)別技術(shù),今年7月,美國(guó)第一大經(jīng)濟(jì)中心紐約也加入了這一行列。

除此之外,美國(guó)的巨頭們也在這一方面退縮了,去年6月,藍(lán)色巨人IBM旗幟鮮明的宣布放棄人臉識(shí)別業(yè)務(wù),不再提供任何人臉識(shí)別和人臉?lè)治鲕浖?同時(shí)也不再對(duì)這項(xiàng)技術(shù)進(jìn)行研究和開發(fā)。另外幾家巨頭如亞馬遜、谷歌等,也表示暫停或放棄人臉識(shí)別相關(guān)業(yè)務(wù)的開發(fā)。

在我國(guó),針對(duì)個(gè)人數(shù)據(jù)安全的法案也被提上日程,人臉識(shí)別等人工智能技術(shù)的監(jiān)管也日加嚴(yán)格。今年1月1日正式實(shí)施的《民法典》中規(guī)定,處理個(gè)人信息,應(yīng)征的該自然人或其監(jiān)護(hù)人的同意;4月23日,國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)發(fā)布《信息安全技術(shù)人臉識(shí)別數(shù)據(jù)安全要求》征求意見稿,也對(duì)人臉識(shí)別技術(shù)應(yīng)用場(chǎng)景、安全要求、數(shù)據(jù)采集和處理等環(huán)節(jié)制定了標(biāo)準(zhǔn)化規(guī)范。

8月20日,立法通過(guò)的《個(gè)人信息保護(hù)法》再次明確:在公共場(chǎng)所安裝圖像采集、個(gè)人身份識(shí)別設(shè)備,應(yīng)當(dāng)為維護(hù)公共安全所必需,遵守國(guó)家有關(guān)規(guī)定,并設(shè)置顯著的提示標(biāo)識(shí)。所收集的個(gè)人圖像、身份識(shí)別信息只能用于維護(hù)公共安全的目的,不得用于其他目的;取得個(gè)人單獨(dú)同意的除外。

人臉識(shí)別不能“一刀切”,用好雙刃劍的有利面

至于如何評(píng)價(jià)此次歐洲議會(huì)的決議,相信大家也是各執(zhí)一詞,有著不同的見解。人臉識(shí)別技術(shù)本身存在的問(wèn)題確實(shí)在近幾年暴露無(wú)遺,但“一刀切”的做法顯然對(duì)于一項(xiàng)進(jìn)步的技術(shù)來(lái)說(shuō)并不合適。

問(wèn)題的關(guān)鍵在于當(dāng)技術(shù)解決不了當(dāng)下存在的問(wèn)題時(shí),它就會(huì)像一把雙刃劍,一方面方便著人們生活,提高社會(huì)效率;另一方面卻又利刃出鞘,鋒芒相向。

就像歐洲議會(huì)上表示,“人工智能在執(zhí)法領(lǐng)域的應(yīng)用提供了巨大機(jī)遇,特別是能夠有效打擊金融犯罪如洗錢、恐怖主義融資,以及網(wǎng)絡(luò)犯罪如虐待兒童等,有助于歐盟公民的安全保障。但同時(shí),數(shù)據(jù)顯示AI識(shí)別對(duì)少數(shù)民族、LGBT人群、老年人和女性的誤識(shí)率更高,這可能對(duì)人們的基本權(quán)利構(gòu)成重大風(fēng)險(xiǎn)。”

在考慮基于AI技術(shù)的人臉識(shí)別是否應(yīng)該被全面禁止還是繼續(xù)沿用,都需要考慮其風(fēng)險(xiǎn)和效果之間是否成正比,避免人臉識(shí)別造成任何有害的影響。

參考資料:

1．《公共場(chǎng)所人臉識(shí)別或全面被禁!剛剛,歐洲議會(huì)決議,AI監(jiān)管再收緊》,新智元

2．《歐洲議會(huì)決議禁止警方公共場(chǎng)所人臉識(shí)別,因算法歧視弊大于利》,AI前哨站

3．《歐盟最新AI監(jiān)管草案:全面禁止大規(guī)模監(jiān)控、嚴(yán)限人臉識(shí)別》,學(xué)術(shù)頭條