為什么不能是「她」?AI也要反性別偏見
尋找翻譯法:測試語音識別系統(tǒng)的翻譯準(zhǔn)確度
在后續(xù)實驗中,研究人員創(chuàng)建了三個語音識別系統(tǒng):
End2End語音識別系統(tǒng),它借助c語言和開放源碼來接受Librispeech數(shù)據(jù)集的培訓(xùn),并通過自動將原始英語文本翻譯成目標(biāo)語言,來對語料庫進(jìn)行“反哺式”擴(kuò)充。* Cascade,其與End2End的核心技術(shù)相同,其區(qū)別在于,它從OPUS庫中提取并訓(xùn)練了7000萬對英語-意大利語數(shù)據(jù)和1.2億對英語-法語語言數(shù)據(jù),最后對訓(xùn)練數(shù)據(jù)進(jìn)行微調(diào),提供大量語料信息。* Cascade+Tag系統(tǒng),又在Cascade的基礎(chǔ)上,在訓(xùn)練數(shù)據(jù)中添加了許多能夠表明說話者性別的語料標(biāo)簽。
有趣的是,研究人員發(fā)現(xiàn),在“MuST-SHE”上進(jìn)行實驗時,將性別信息輸入Cascade語音識別系統(tǒng),并沒有收到顯著效果。數(shù)據(jù)集中原始引用和“錯誤”引用之間的差異值表明,這三個系統(tǒng)都偏向于男性語言思維模式,似乎女性被放在了弱勢地位。
三類語音識別系統(tǒng)的產(chǎn)出成果衡量示意圖
在語料分類方面,Cascade在區(qū)分第一類翻譯語料時表現(xiàn)最差,因為它無法獲取說話者的性別信息,從而無法翻譯出正確的語句。相比之下,End2End能夠利用音頻特性來準(zhǔn)確地標(biāo)注出說話者的性別,但它在區(qū)分第二類翻譯語料上表現(xiàn)最差,原因可能在于它提取的訓(xùn)練數(shù)據(jù)集比較小,不足以讓它推斷出比較清晰的翻譯思路。
研究人員寫下了他們的實驗感想:“如果在系統(tǒng)中輸入'機(jī)器吃什么’這樣的話語,那么AI可能會根據(jù)人類的食譜來列舉出具體的菜單,這就是站在人類的角度,對'吃'這個用詞闡發(fā)思考。它也可能站在機(jī)器的角度,寫出機(jī)器吃汽油之類的答案。但是通過對'吃'這個字的翻譯解釋,我們就能得到這樣的結(jié)論:AI的巨大優(yōu)勢在于,它能夠從輸入的音頻信號中推斷說話者的性別/屬性。這說明它的可塑性其實非常強(qiáng)!
谷歌也在谷歌翻譯軟件中引入了性別區(qū)分翻譯意識,主要目的也是為了解決性別偏見。谷歌研究團(tuán)隊將AI翻譯的性別差異性通過一種被稱為StereoSet的指標(biāo)體現(xiàn)出來,以顯示哪種系統(tǒng)翻譯方式比較可行,那種語料庫比較切合這種翻譯識別方法。希望在不久的將來,性別偏見可以真正從AI市場上被根除殆盡。
關(guān)于我“門”
將門是一家以專注于發(fā)掘、加速及投資技術(shù)驅(qū)動型創(chuàng)業(yè)公司的新型創(chuàng)投機(jī)構(gòu),旗下涵蓋將門創(chuàng)新服務(wù)、將門技術(shù)社群以及將門創(chuàng)投基金。將門成立于2015年底,創(chuàng)始團(tuán)隊由微軟創(chuàng)投在中國的創(chuàng)始團(tuán)隊原班人馬構(gòu)建而成,曾為微軟優(yōu)選和深度孵化了126家創(chuàng)新的技術(shù)型創(chuàng)業(yè)公司。
將門創(chuàng)新服務(wù)專注于使創(chuàng)新的技術(shù)落地于真正的應(yīng)用場景,激活和實現(xiàn)全新的商業(yè)價值,服務(wù)于行業(yè)領(lǐng)先企業(yè)和技術(shù)創(chuàng)新型創(chuàng)業(yè)公司。
將門技術(shù)社群專注于幫助技術(shù)創(chuàng)新型的創(chuàng)業(yè)公司提供來自產(chǎn)、學(xué)、研、創(chuàng)領(lǐng)域的核心技術(shù)專家的技術(shù)分享和學(xué)習(xí)內(nèi)容,使創(chuàng)新成為持續(xù)的核心競爭力。
將門創(chuàng)投基金專注于投資通過技術(shù)創(chuàng)新激活商業(yè)場景,實現(xiàn)商業(yè)價值的初創(chuàng)企業(yè),關(guān)注技術(shù)領(lǐng)域包括機(jī)器智能、物聯(lián)網(wǎng)、自然人機(jī)交互、企業(yè)計算。在近四年的時間里,將門創(chuàng)投基金已經(jīng)投資了包括量化派、碼隆科技、禾賽科技、寬拓科技、杉數(shù)科技、迪英加科技等數(shù)十家具有高成長潛力的技術(shù)型創(chuàng)業(yè)公司。
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
10月31日立即下載>> 【限時免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報名>>> 【在線會議】多物理場仿真助跑新能源汽車
-
11月28日立即報名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會議
-
12月19日立即報名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
-
即日-12.26火熱報名中>> OFweek2024中國智造CIO在線峰會
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市