字節(jié)跳動實習(xí)生投毒自家大模型細(xì)節(jié)曝光,，影響到底有多大？內(nèi)部技術(shù)襲擊引發(fā)權(quán)限收緊擔(dān)憂

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-19 20:52:25 新浪財經(jīng)

10月19日,，字節(jié)跳動大模型訓(xùn)練遭到實習(xí)生攻擊的事件引起了廣泛關(guān)注,。據(jù)知情人士透露，今年6月,，字節(jié)跳動某技術(shù)團(tuán)隊內(nèi)部發(fā)生了一起技術(shù)襲擊事件,，一名實習(xí)生因?qū)F(tuán)隊資源分配不滿，使用攻擊代碼破壞了團(tuán)隊的模型訓(xùn)練任務(wù),。

該事件的主要涉事者是一名田姓實習(xí)生,。他利用Huggingface平臺的漏洞，在公司的共享模型中寫入了破壞代碼,，導(dǎo)致模型訓(xùn)練效果不穩(wěn)定,，無法達(dá)到預(yù)期成果,。一位前字節(jié)技術(shù)員工表示，字節(jié)AI Lab的實習(xí)生權(quán)限和正職員工差異不大,，這為此次事件提供了機(jī)會,，并對此事可能帶來的負(fù)面影響表達(dá)了擔(dān)憂。

消息曝光后,，涉事實習(xí)生試圖在社交平臺上辟謠,，將責(zé)任推給他人，但很快遭到接近字節(jié)跳動人士的否認(rèn),。相關(guān)知情人士在GitHub上指出,，田某在長達(dá)兩個月的時間里對集群代碼進(jìn)行惡意攻擊，對公司近30位各級員工造成巨大傷害,，使得同事一個季度的工作白費。所有記錄和審查都證明這是不容置疑的事實,。錄音中的對話顯示,，田某最初輸入的代碼本用于調(diào)試，但后來通過更新文件變成了攻擊代碼,，導(dǎo)致了一系列問題,。田某在錄音中承認(rèn)了這一行為，并表示是因為某些原因?qū)е铝藰O大的不滿,。

雖然有傳聞稱此次損失超過千萬美元,，但內(nèi)部人士表示實際損失并沒有那么嚴(yán)重。據(jù)了解,，事件發(fā)生于今年6月底,，目前字節(jié)跳動已辭退田姓實習(xí)生，并將此事通報給相關(guān)行業(yè)聯(lián)盟和其所在的學(xué)校,。不過,，除了被辭退外，田某未受到其他處罰,。

多方消息顯示,，田姓實習(xí)生是國內(nèi)某高校在讀博士生，自2021年9月起在字節(jié)AI Lab實習(xí),。其所在團(tuán)隊在今年4月與北大王立威團(tuán)隊提出了VAR研究,，在圖像生成質(zhì)量、推理速度,、數(shù)據(jù)效率和可擴(kuò)展性等方面均超過了DiT,，推理速度比傳統(tǒng)自回歸模型快約20倍。截至發(fā)稿時,，字節(jié)跳動方面仍未對此事進(jìn)行公開回應(yīng),。

(責(zé)任編輯：張蕾)

關(guān)閉

字節(jié)跳動實習(xí)生投毒自家大模型細(xì)節(jié)曝光,，影響到底有多大？ 內(nèi)部技術(shù)襲擊引發(fā)權(quán)限收緊擔(dān)憂

相關(guān)新聞

今日熱點

頻道熱點

字節(jié)跳動實習(xí)生投毒自家大模型細(xì)節(jié)曝光,，影響到底有多大？內(nèi)部技術(shù)襲擊引發(fā)權(quán)限收緊擔(dān)憂