編者注：本文作者Ava Kofman是一名專欄作家。本文中，作者根據(jù)AC Global Risk公司開發(fā)的一種基于聲音的風(fēng)險(xiǎn)評(píng)估系統(tǒng)展開討論，從這一系統(tǒng)本身出發(fā)并結(jié)合行業(yè)內(nèi)情形進(jìn)行客觀論述。

試想，是否有這樣的可能：僅通過觀察人們的臉或聽他們的聲音來判斷某人是否是罪犯？這個(gè)想法可能看似荒謬，就像科幻小說《1984》中的老大哥（Big Brother）察覺到某些“帶有異常暗示”的無意識(shí)表情。然而，近期一些公司開始直面這個(gè)問題：答案不是可能，而是肯定。一家成立于2016年的初創(chuàng)企業(yè)AC Global Risk，聲稱能夠確定一個(gè)人作為員工或?qū)で蟊幼o(hù)者的風(fēng)險(xiǎn)水平，依據(jù)不是這個(gè)人說了什么，而是怎么說。

這家位于加利福尼亞州的企業(yè)提供一種自動(dòng)篩選系統(tǒng)，稱為RRA（Remote Risk Assessment，遠(yuǎn)程風(fēng)險(xiǎn)評(píng)估）。該系統(tǒng)的工作原理是：AC Global Risk在客戶的幫助下形成一些自動(dòng)化的、是或否的面試問題。選定進(jìn)行篩選的人群隨后將在10分鐘的面談中用自己的母語回答這些簡(jiǎn)單的問題，該過程可在電話上進(jìn)行。然后RRA通過測(cè)量他們的聲音特征產(chǎn)生評(píng)估報(bào)告，該報(bào)告將以從低風(fēng)險(xiǎn)到高風(fēng)險(xiǎn)的頻譜形式對(duì)每個(gè)人進(jìn)行評(píng)分。AC Global Risk首席執(zhí)行官Alex Martin表示，作為該公司的專利，該風(fēng)險(xiǎn)分析將“永遠(yuǎn)改變?nèi)祟愶L(fēng)險(xiǎn)的衡量標(biāo)準(zhǔn)”。

AC Global Risk則表示，其咨詢委員會(huì)成員包括羅伯特·蓋茨（Robert Gates）、康多莉扎·賴斯（Condoleezza Rice）和斯蒂芬·哈德利（Stephen Hadley）的咨詢公司，并與美國(guó)駐阿富汗特種作戰(zhàn)司令部、烏干達(dá)野生動(dòng)物管理局以及Palantir、蘋果、Facebook、谷歌等安全團(tuán)隊(duì)簽訂了合同。Martin表示，風(fēng)險(xiǎn)篩選在這些市場(chǎng)和其他市場(chǎng)的廣泛使用，證明其“準(zhǔn)確性高、可擴(kuò)展、具有成本效益，并且具有高吞吐量。”AC Global Risk還聲稱其RRA系統(tǒng)可以對(duì)上百個(gè)處于世界各地的人同時(shí)進(jìn)行操作。針對(duì)當(dāng)前美國(guó)總統(tǒng)特朗普要求對(duì)移民進(jìn)行“極端審查”的呼吁，該公司已經(jīng)將自己視為美國(guó)和其他國(guó)家目前正經(jīng)歷的巨大難民危機(jī)的“殺手锏”。

這項(xiàng)建議似乎引起了美國(guó)國(guó)土安全局（DHS）的興趣。國(guó)土安全局已經(jīng)對(duì)研究開發(fā)類似的邊境人工智能技術(shù)提供了資助。自動(dòng)實(shí)時(shí)真相評(píng)估虛擬系統(tǒng)（AVATAR）測(cè)謊儀，使用人工智能來評(píng)估旅客的聲音、姿勢(shì)和面部表情的變化，從而標(biāo)記那些有意欺騙或可能構(gòu)成潛在風(fēng)險(xiǎn)的旅客。2012年，該技術(shù)在美國(guó)與墨西哥的邊境對(duì)志愿者進(jìn)行了測(cè)試。歐盟也對(duì)這項(xiàng)可以減少由人為因素產(chǎn)生的工作量和主觀錯(cuò)誤的技術(shù)提供了資助。

語音分析、算法歧視和機(jī)器學(xué)習(xí)方面的一些領(lǐng)先專家發(fā)現(xiàn)，數(shù)字測(cè)謊儀測(cè)試的趨勢(shì)令人不安，并且指出AC Global Risk等公司的方法存在謬誤。普林斯頓大學(xué)心理學(xué)家Alex Todorov解釋道：“語音的動(dòng)態(tài)變化會(huì)產(chǎn)生一些信息，這些公司正在對(duì)這些信息進(jìn)行檢測(cè)，這非常合理。但問題是，在檢測(cè)他們認(rèn)為有風(fēng)險(xiǎn)的人時(shí)，這些信息的可信度有多高？因?yàn)檫@些信息一般來說都是模棱兩可的�！盇lex Todorov的研究方向是社會(huì)感知和第一印象科學(xué)。

過去的一年里，美國(guó)公民自由聯(lián)盟和其他有關(guān)組織表示，邊境巡邏人員一直根據(jù)外表或口音在灰狗巴士（Greyhound）上逮捕一些人。由于海關(guān)和邊境保護(hù)局已經(jīng)采用某人說話方式或長(zhǎng)相的信息作為依據(jù)，在160千米的邊境地區(qū)進(jìn)行搜查，或者拒絕某人入境。專家們擔(dān)心基于聲音情緒的檢測(cè)軟件會(huì)使這種歧視成為一種常規(guī)、普遍甚至看似“客觀”的現(xiàn)象。

AC Global Risk拒絕回復(fù)本文的多次置評(píng)請(qǐng)求，也沒有對(duì)該技術(shù)詳細(xì)運(yùn)作方式的問題作出回應(yīng)。然而，在公開場(chǎng)合，Martin聲稱其公司的專有分析流程可以確定某人的風(fēng)險(xiǎn)等級(jí)，準(zhǔn)確率超過97％。（而AVATAR則表示其準(zhǔn)確率在60％到70％之間。）幾位業(yè)內(nèi)領(lǐng)先的視聽專家在審閱了AC Global Risk公開發(fā)布的文件后，使用“廢話”或“虛假”一詞來描述該公司的主張。奧格斯堡大學(xué)教授Bj?rn Schuller表示：“從道德的角度來看，只通過聲音測(cè)謊會(huì)讓人們覺得非常可疑和陰暗，任何一家宣稱自己能做到這一點(diǎn)的公司可能都是一顆‘定時(shí)炸彈’�！盉j?rn Schuller領(lǐng)導(dǎo)了該領(lǐng)域的主要研究，致力于提高聲音情緒檢測(cè)的最新技術(shù)水平。

高風(fēng)險(xiǎn)業(yè)務(wù)

去年夏天有報(bào)道稱，特朗普的極端審查計(jì)劃（Extreme Vetting Initiative）要求軟件能夠自動(dòng)確定和評(píng)估簽證申請(qǐng)者成為社會(huì)積極成員的可能性，并預(yù)測(cè)申請(qǐng)者是否打算在進(jìn)入美國(guó)后實(shí)施犯罪或恐怖行為。AC Global Risk將自己標(biāo)榜為實(shí)施這一舉措的完美工具，聲稱可以評(píng)估忠誠(chéng)度不明人員的風(fēng)險(xiǎn)等級(jí)，例如難民和簽證申請(qǐng)者。隨后，國(guó)土安全局將決定如何根據(jù)這些報(bào)告的結(jié)果采取行動(dòng)�！拔覀儗�風(fēng)險(xiǎn)等級(jí)分為低水平、平均水平、潛在水平和高水平，根據(jù)這四個(gè)風(fēng)險(xiǎn)等級(jí)建立部門協(xié)議并不難�！痹摴�司在其博客上表示。

風(fēng)險(xiǎn)評(píng)估本身并不是什么新鮮事。近年來，在刑事司法程序的各個(gè)階段幾乎都引入了算法，從警務(wù)、保釋到量刑、假釋。這種技術(shù)的出現(xiàn)并非無可非議。許多這類自動(dòng)化工具都因其不透明性、保密性和偏見遭到批判。在大多數(shù)情況下，辦公人員、法院和公眾沒有能力或根本不允許質(zhì)疑這些工具的基本假設(shè)、訓(xùn)練或結(jié)論。而持懷疑態(tài)度的專家關(guān)注的主要問題是，機(jī)器學(xué)習(xí)的客觀光環(huán)可能為歧視提供一個(gè)道貌岸然的借口。

對(duì)于其技術(shù)原理，AC Global Risk提供的細(xì)節(jié)寥寥無幾。該公司沒有發(fā)表支持其研究主張的白皮書，也沒有公布其研究人員的科學(xué)譜系。除此之外，該公司甚至沒有回答關(guān)于其產(chǎn)品特征（比如音高、速度、拐點(diǎn)）的問題。猶他州大學(xué)一位主攻算法公平性的計(jì)算機(jī)科學(xué)家Suresh Venkatasubramanian認(rèn)為：“盡管在刑事司法環(huán)境中使用風(fēng)險(xiǎn)評(píng)估存在一定的問題，但比這家公司的工具準(zhǔn)確得多�！�

如果AC Global Risk對(duì)其技術(shù)的任何一項(xiàng)聲明得到證實(shí)，都將成為人類聲音研究的前沿，因?yàn)檠芯咳藛T認(rèn)為聲音具有確定某些信息的可能性。例如，聲音評(píng)估可以出色地識(shí)別人口統(tǒng)計(jì)信息。這類信息可能很常規(guī)，例如某人的年齡、性別或方言，也可能非常個(gè)性化，比如判斷某人來自哪個(gè)地區(qū)，以及他們?nèi)魏螡撛诘慕】祮栴}。

上個(gè)月，亞馬遜獲得了一項(xiàng)專利，允許其虛擬助手Alexa確定用戶的聲音特征，包括語言、口音、性別和年齡等。然而，在從聲音確定情緒的過程中，準(zhǔn)確性仍然是一個(gè)重大問題。聲音分析公司audEERING的聯(lián)合創(chuàng)始人Schuller表示，目前通過聲音判斷某人是否在說謊的準(zhǔn)確率不高于70％（如果說謊是該公司的風(fēng)險(xiǎn)評(píng)估指標(biāo)之一），這與人類判斷的平均概率基本相同。

Schuller還表示，通過聲音有可能判斷某人是否陶醉、真誠(chéng)或欺騙，但同樣，其準(zhǔn)確率與人類判斷相似。他說：“有時(shí)在具備可靠標(biāo)簽的基礎(chǔ)上，工具的準(zhǔn)確性可能更高，但如果有人宣稱零誤差，最好還是保留態(tài)度�！�

評(píng)估AC Global Risk的主張是否有效的關(guān)鍵是，什么是風(fēng)險(xiǎn)，以及誰來定義這一概念。主攻生物識(shí)別技術(shù)的澳大利亞學(xué)者Joseph Pugliese表示：“他們把風(fēng)險(xiǎn)定義為一種不言自明的、看似普遍的品質(zhì)，并且假設(shè)人們已經(jīng)知道什么是風(fēng)險(xiǎn)，而當(dāng)然，定義風(fēng)險(xiǎn)參數(shù)的主體和風(fēng)險(xiǎn)參數(shù)的構(gòu)成應(yīng)該是一個(gè)政治問題�！�

AC Global Risk首席執(zhí)行官Alex Martin曾談到“尋找每個(gè)人都存在的連續(xù)統(tǒng)一體的實(shí)際風(fēng)險(xiǎn)�！倍�普林斯頓大學(xué)的心理學(xué)家Todorov則解釋，風(fēng)險(xiǎn)是一種天生的、可識(shí)別的人類特征，而且這種特性可以從聲音中確定，這種觀點(diǎn)依賴于有缺陷的假設(shè)。他補(bǔ)充道，我們檢測(cè)人們實(shí)際感受的方式與我們感知他們感受的方式的能力，一直是機(jī)器學(xué)習(xí)領(lǐng)域一個(gè)眾所周知的難題。評(píng)估設(shè)置可能會(huì)使錯(cuò)誤印象的可能性進(jìn)一步復(fù)雜化。Pugliese說：“邊境地區(qū)的人們已經(jīng)處于高壓和高度情緒化的環(huán)境中，又怎么可能用我們所謂的正常情緒標(biāo)準(zhǔn)來衡量？”

新的人相學(xué)？

越來越多公司對(duì)其行為分析軟件的能力要求過高，AC Global Risk只是其中之一。受人工智能觀察能力的鼓舞，許多生物識(shí)別供應(yīng)商和人工智能公司一直在向企業(yè)和政府提供這樣的服務(wù)：采集面部表情、動(dòng)作和聲音信息，從而判斷一個(gè)人的人格。例如，2014年俄羅斯冬季奧運(yùn)會(huì)期間，一家生物識(shí)別供應(yīng)商通過掃描與會(huì)者的表情，使該國(guó)的安全機(jī)構(gòu)FSB能夠找出那些看似不起眼，但實(shí)際精神狀態(tài)過激且存在潛在威脅的人。

一些研究人工智能和人類行為的專家對(duì)這類工具持懷疑態(tài)度，他們將這些工具框定為人們對(duì)人相學(xué)（physiognomy）興趣日益返潮的一部分。人相學(xué)是一種通過觀察一個(gè)人的 身體來尋找道德品質(zhì)和犯罪意圖跡象的行為。在19世紀(jì)中期，塞薩爾·隆布羅索（Cesare Lombroso）對(duì)“天生罪犯”的頭骨和面部特征的精確測(cè)量，為這種“紙上談兵”披上了科學(xué)的外衣。然而，盡管像隆布羅索這樣的犯罪學(xué)家的成果被扔進(jìn)了“偽科學(xué)”的垃圾箱，但是從身體特征和行為中推斷某人的道德品質(zhì)或隱藏思想的欲望仍舊持續(xù)不斷。

Pugliese認(rèn)為，AC Global Risk和同類公司的努力都基于一個(gè)假設(shè)——大數(shù)據(jù)的相關(guān)性可以規(guī)避科學(xué)方法。他解釋說，這些“人相”應(yīng)用尤其令人不安，因?yàn)闄C(jī)器學(xué)習(xí)算法設(shè)計(jì)的初衷就是為了在他們給出的數(shù)據(jù)中找到表面模式（無論這些模式是否真實(shí)）。Pugliese表示：“當(dāng)這些公司聲稱正在進(jìn)行風(fēng)險(xiǎn)等級(jí)分類時(shí)，不言而喻，他們已經(jīng)對(duì)構(gòu)成‘犯罪意圖’的跡象有了客觀的認(rèn)識(shí)。但我們并不知道什么實(shí)際跡象會(huì)這些犯罪預(yù)測(cè)指標(biāo)�！�

然而，揭露這種技術(shù)的偽科學(xué)前提并不一定會(huì)降低企業(yè)和政府使用這項(xiàng)技術(shù)的可能性。與許多其他預(yù)測(cè)性和基于風(fēng)險(xiǎn)的系統(tǒng)相同，這些技術(shù)的能力主要依賴于它們對(duì)效力和速度的承諾。Venkatasubramanian解釋說：“他們主要的主張是提高效率，從這個(gè)意義上講，這種技術(shù)的確會(huì)起作用�！睋Q句話說，這種效率是否對(duì)這種系統(tǒng)受眾的生命機(jī)會(huì)有益或有害，他們漠不關(guān)心。遠(yuǎn)程風(fēng)險(xiǎn)評(píng)估由于人類的接納將得到廣泛應(yīng)用。正如Todorov與另外兩位機(jī)器學(xué)習(xí)專家在表達(dá)他們對(duì)這一大趨勢(shì)的擔(dān)憂時(shí)所寫：“無論是否有意，通過計(jì)算機(jī)算法為人類的歧視‘洗白’，確實(shí)有可能使這些偏見看起來更客觀合理�！�