訂閱
糾錯(cuò)
加入自媒體

證實(shí)!字節(jié)大模型訓(xùn)練遭北大實(shí)習(xí)生投毒

本周有消息稱,北大某田姓研究生在字節(jié)實(shí)習(xí)期間,利用 huggingface 的漏洞給字節(jié)大模型注入了破壞代碼,導(dǎo)致其訓(xùn)練成果不可靠,而重新訓(xùn)練帶來(lái)的損失或超千萬(wàn)美元(8000 多張 GPU 顯卡)。

GitHub 上公開(kāi)了田某某的錄音,成為實(shí)錘證據(jù)。

知情人士在 Gitbub 上稱,“你(指田某)在長(zhǎng)達(dá) 2 個(gè)月的時(shí)間里對(duì)集群代碼進(jìn)行惡意攻擊,對(duì)公司近 30 位各級(jí)員工造成巨大傷害,讓你的同事近一個(gè)季度的工作白費(fèi)。所有的記錄和審查都證明這是不容狡辯的事實(shí)!”

此事在網(wǎng)上傳的沸沸揚(yáng)揚(yáng),字節(jié)昨日回應(yīng)。

回應(yīng)要點(diǎn)有三:1.事情屬實(shí);2.該事未影響大模型商業(yè)化;3.“損失千萬(wàn)美元” 屬嚴(yán)重夸大。

據(jù)悉,事情原委是高校博士生田某今年 6 月在字節(jié)跳動(dòng) AI Lab 實(shí)習(xí)期間,因?qū)F(tuán)隊(duì)資源分配不滿,使用攻擊代碼破壞了團(tuán)隊(duì)的模型訓(xùn)練任務(wù)。田某于 2021 年 9 月起在該單位實(shí)習(xí),所在團(tuán)隊(duì)剛在今年 4 月與北大王立威團(tuán)隊(duì)提出了 VAR 研究。

字節(jié)跳動(dòng)內(nèi)部調(diào)查確認(rèn)了是田某某所為,已經(jīng)辭退該人。字節(jié)跳動(dòng)還將此事通報(bào)給了陽(yáng)光誠(chéng)信聯(lián)盟、企業(yè)反舞弊聯(lián)盟以及實(shí)習(xí)生所在的學(xué)校。

有報(bào)道指出,字節(jié)跳動(dòng)的 AI Lab 實(shí)習(xí)生權(quán)限和正職員工差異不大,這為此次事件提供了機(jī)會(huì)。經(jīng)此一事,字節(jié)后續(xù)會(huì)加強(qiáng)權(quán)限隔離和共用代碼的審計(jì)。

聲明: 本網(wǎng)站所刊載信息,不代表OFweek觀點(diǎn)?帽菊靖寮,務(wù)經(jīng)書(shū)面授權(quán)。未經(jīng)授權(quán)禁止轉(zhuǎn)載、摘編、復(fù)制、翻譯及建立鏡像,違者將依法追究法律責(zé)任。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過(guò)于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無(wú)評(píng)論

暫無(wú)評(píng)論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號(hào)
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯(cuò)
x
*文字標(biāo)題:
*糾錯(cuò)內(nèi)容:
聯(lián)系郵箱:
*驗(yàn) 證 碼:

粵公網(wǎng)安備 44030502002758號(hào)