Facebook的人工智能在一段有關(guān)黑人的視頻上誤貼“靈長(zhǎng)類”標(biāo)簽。

據(jù)《紐約時(shí)報(bào)》報(bào)道，F(xiàn)acebook用戶稱其最近觀看了一個(gè)來(lái)自英國(guó)小報(bào)的黑人視頻，然而卻收到了一個(gè)自動(dòng)提示，詢問(wèn)他們是否愿意繼續(xù)觀看關(guān)于靈長(zhǎng)類動(dòng)物的視頻。該公司立即調(diào)查并禁用推送該消息的AI功能。

這段視頻拍攝于2020年6月27日，來(lái)源于《每日郵報(bào)》（The Daily Mail），內(nèi)容涉及黑人男子與白人平民以及警察發(fā)生爭(zhēng)執(zhí)的片段，與靈長(zhǎng)類動(dòng)物沒(méi)有任何關(guān)系。

曾在Facebook擔(dān)任內(nèi)容設(shè)計(jì)經(jīng)理的Darci Groves說(shuō)，一個(gè)朋友最近給她發(fā)了一張自動(dòng)提醒的截圖。然后，她把這篇文章發(fā)布到一個(gè)Facebook員工的產(chǎn)品反饋論壇上。

作為回應(yīng)，該公司的視頻服務(wù)Facebook Watch的一名產(chǎn)品經(jīng)理稱這是“不可接受的”。周五，F(xiàn)acebook為其所謂的“不可接受的錯(cuò)誤”道歉，并表示正在調(diào)查推薦功能，以“防類似事件再次發(fā)生”。

“正如我們所說(shuō)，雖然我們對(duì)人工智能進(jìn)行了改進(jìn)，但我們知道它并不完美，我們還需要一直改善。我們向任何看到這些無(wú)禮推薦消息的人道歉。”

這一事件只是人工智能工具顯示性別或種族偏見(jiàn)的最新例子。谷歌、亞馬遜和其他科技公司多年來(lái)一直因其人工智能系統(tǒng)存在偏見(jiàn)而受到審查，尤其是種族問(wèn)題。研究表明，面部識(shí)別技術(shù)對(duì)有色人種有偏見(jiàn)，識(shí)別有色人種更困難，導(dǎo)致黑人在使用電腦的過(guò)程中受到歧視甚至因電腦錯(cuò)誤被捕。

2015年，一名黑人軟件開(kāi)發(fā)人員在Twitter上說(shuō)，谷歌的照片服務(wù)（Google Photos）把他和一個(gè)黑人朋友的照片打上了“大猩猩”的標(biāo)簽，這讓谷歌感到非常尷尬。谷歌宣稱自己“感到震驚和由衷的歉意”。一名相關(guān)的工程師表示，谷歌正在“研究更長(zhǎng)期的解決方案”。

兩年多之后，谷歌給出的其中一項(xiàng)修復(fù)措施就是將大猩猩和其他靈長(zhǎng)類動(dòng)物的標(biāo)簽從該服務(wù)的詞庫(kù)中刪除。這一尷尬的變通方案表明，谷歌和其他科技公司在推進(jìn)圖像識(shí)別技術(shù)方面仍舊面臨著諸多困難，盡管這些公司希望能夠在自動(dòng)駕駛汽車、個(gè)人助理和其他產(chǎn)品上使用這些技術(shù)。

這件事爆出后，Google 承認(rèn)，在圖片識(shí)別標(biāo)簽中，他們確實(shí)刪掉了“大猩猩”，給出的解釋是：“圖片標(biāo)簽技術(shù)仍處于早期，很不幸，它離完美還差得遠(yuǎn)�！�

去年，臉書表示正在研究其使用人工智能（包括Instagram）的算法是否存在種族偏見(jiàn)。為什么人臉識(shí)別系統(tǒng)總是認(rèn)錯(cuò)黑人？技術(shù)不懂什么是種族偏見(jiàn)，人臉識(shí)別卻一再翻車。

2018 年，美國(guó)《紐約時(shí)報(bào)》發(fā)表過(guò)一篇文章，引用美國(guó)麻省理工學(xué)院的最新研究論文，證實(shí)在不同種族面前，人臉識(shí)別的準(zhǔn)確率存在巨大差異。紐約時(shí)報(bào)刊文研究員創(chuàng)建了一個(gè)包含 1270 張面孔的數(shù)據(jù)集，包括以深膚色為主的 3 個(gè)非洲國(guó)家，以及淺膚色的 3 個(gè)北歐國(guó)家，并找來(lái)三款主流的人臉識(shí)別系統(tǒng)進(jìn)行測(cè)試。數(shù)據(jù)集中的一部分結(jié)果顯示：白人的識(shí)別錯(cuò)誤率最低，僅為 1％，膚色越暗，錯(cuò)誤率越高。這其中，又以黑人女性的錯(cuò)誤率最高，達(dá)到 35％。

現(xiàn)實(shí)中，深膚色人的面部特性確實(shí)比較難找，尤其在暗光環(huán)境下，光是檢測(cè)到臉就很難了，更別提捕捉面部特征，這對(duì)于算法確實(shí)是一大挑戰(zhàn)。在樣本數(shù)據(jù)不足的情況下，人臉識(shí)別算法一般的做法，是根據(jù)特定的面部特征，比如眼距、膚色等，開(kāi)啟預(yù)測(cè)模式，但算法預(yù)測(cè)所依賴的面部特征，本身就不準(zhǔn)確，勢(shì)必會(huì)導(dǎo)致識(shí)別失誤，比如把深色皮膚的女性識(shí)別成男性，或者把良民識(shí)別成罪犯。

其實(shí)，AI其實(shí)并不存在種族偏見(jiàn)，如果深膚色人臉的樣本足夠多，AI算法獲得足夠多的數(shù)據(jù)來(lái)訓(xùn)練，那么深膚色人種的人臉識(shí)別問(wèn)題自然就迎刃而解了，說(shuō)到底還是AI在深膚色人種之間應(yīng)用較少，缺乏足夠多的數(shù)據(jù)訓(xùn)練，歸根結(jié)底，有偏見(jiàn)的一直是人。

維科杯·OFweek（第六屆）2021物聯(lián)網(wǎng)行業(yè)年度評(píng)選：https：／／www．ofweek．com／award／2021／AIoT／iot／

維科杯·OFweek（第六屆）2021人工智能行業(yè)年度評(píng)選：https：／／www．ofweek．com／award／2021／AIoT／ai／