欧美亚洲综合成人专区,国产亚洲精品久久久久久郑州

證實(shí)！字節(jié)大模型訓(xùn)練遭北大實(shí)習(xí)生投毒

2024-10-21 18:31

本周有消息稱，北大某田姓研究生在字節(jié)實(shí)習(xí)期間，利用 huggingface 的漏洞給字節(jié)大模型注入了破壞代碼，導(dǎo)致其訓(xùn)練成果不可靠，而重新訓(xùn)練帶來(lái)的損失或超千萬(wàn)美元（8000 多張 GPU 顯卡）。

GitHub 上公開(kāi)了田某某的錄音，成為實(shí)錘證據(jù)。

知情人士在 Gitbub 上稱，“你（指田某）在長(zhǎng)達(dá) 2 個(gè)月的時(shí)間里對(duì)集群代碼進(jìn)行惡意攻擊，對(duì)公司近 30 位各級(jí)員工造成巨大傷害，讓你的同事近一個(gè)季度的工作白費(fèi)。所有的記錄和審查都證明這是不容狡辯的事實(shí)！”

此事在網(wǎng)上傳的沸沸揚(yáng)揚(yáng)，字節(jié)昨日回應(yīng)。

回應(yīng)要點(diǎn)有三：1.事情屬實(shí)；2.該事未影響大模型商業(yè)化；3.“損失千萬(wàn)美元” 屬嚴(yán)重夸大。

據(jù)悉，事情原委是高校博士生田某今年 6 月在字節(jié)跳動(dòng) AI Lab 實(shí)習(xí)期間，因?qū)F(tuán)隊(duì)資源分配不滿，使用攻擊代碼破壞了團(tuán)隊(duì)的模型訓(xùn)練任務(wù)。田某于 2021 年 9 月起在該單位實(shí)習(xí)，所在團(tuán)隊(duì)剛在今年 4 月與北大王立威團(tuán)隊(duì)提出了 VAR 研究。

字節(jié)跳動(dòng)內(nèi)部調(diào)查確認(rèn)了是田某某所為，已經(jīng)辭退該人。字節(jié)跳動(dòng)還將此事通報(bào)給了陽(yáng)光誠(chéng)信聯(lián)盟、企業(yè)反舞弊聯(lián)盟以及實(shí)習(xí)生所在的學(xué)校。

有報(bào)道指出，字節(jié)跳動(dòng)的 AI Lab 實(shí)習(xí)生權(quán)限和正職員工差異不大，這為此次事件提供了機(jī)會(huì)。經(jīng)此一事，字節(jié)后續(xù)會(huì)加強(qiáng)權(quán)限隔離和共用代碼的審計(jì)。

字節(jié)