字節(jié)或損失千萬美元實習生惡意破壞模型訓練

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-21 08:23:46 新晚報

字節(jié)或損失千萬美元

10月18日，多個微信群流傳一則消息,，稱某頭部大廠的大模型訓練被實習生入侵,，注入了破壞代碼,，導致其訓練成果不可靠,，可能需要重新訓練,。據(jù)稱遭到入侵的代碼影響了8000多張卡,，帶來的損失可能超過千萬美元,。

知情人士透露，該頭部大廠為字節(jié)跳動,。事件發(fā)生在今年6月,，起因是某高校的一名博士在字節(jié)跳動商業(yè)化技術(shù)團隊實習時,，因?qū)F隊資源分配不滿,，使用攻擊代碼破壞了團隊的模型訓練任務(wù)。傳聞顯示,，這名田姓實習生利用了HF（huggingface）的漏洞,，在公司的共享模型里寫入破壞代碼，導致模型的訓練效果忽高忽低,，無法產(chǎn)生預期的效果,，且AML團隊無法核查原因。但傳聞曝出后,，該實習生在某微信群里辟謠稱,，自己發(fā)完論文后就從字節(jié)跳動離職，這個當口有另一個人鉆漏洞改模型代碼,，把責任推到自己頭上,。

字節(jié)跳動內(nèi)部調(diào)查明確此事為田姓實習生所為,。目前,，該實習生已被辭退，公司同時將此事同步給行業(yè)聯(lián)盟和該實習生所在的學校,。盡管該實習生被辭退后到處“辟謠”甩鍋,，稱是其他人所為，但事實上他確實攻擊了商業(yè)化技術(shù)團隊的模型訓練任務(wù),，影響了一些業(yè)務(wù)進展,，但整體對公司造成的損失并沒有傳聞中的超過千萬美元那么大。

一位技術(shù)安全專家表示，HF漏洞產(chǎn)生的原因是單一性集中訓練,，此事暴露了字節(jié)跳動技術(shù)訓練存在安全管理問題,。公司既沒有做好權(quán)限隔離，也沒有做好共用代碼的審計,。正常情況下,，每次大的代碼變動必須做審計，無論誰操作都有痕跡記錄,，一個人想動代碼是不可能的,。目前行業(yè)通用的做法是做三級隔離導向性部署，每一級只有鏡像,，每次先掃描,。調(diào)用按次計算、必須密鑰,。每一級完成后,，才能進入下一級，而上一級自動刪除,，進行分級訓練,。

10月19日，字節(jié)跳動官方發(fā)布聲明回應(yīng)此事,，確認確有實習生發(fā)生嚴重違紀行為并已經(jīng)被辭退,，但相關(guān)報道也存在部分夸大及失實信息。涉事實習生惡意干擾商業(yè)化技術(shù)團隊研究項目的模型訓練任務(wù),，但并不影響商業(yè)化的正式項目及線上業(yè)務(wù),，也不涉及字節(jié)跳動大模型等其他業(yè)務(wù)。網(wǎng)傳“涉及8000多卡,、損失上千萬美元”嚴重夸大,。經(jīng)核實,，涉事人一直在商業(yè)化技術(shù)團隊實習,，并沒有AI Lab實習經(jīng)歷。該實習生已在8月被公司辭退,。公司也將其行為同步給行業(yè)聯(lián)盟和所在學校,，交由校方處理。字節(jié)或損失千萬美元,！

(責任編輯：盧其龍 CN070)

關(guān)閉

字節(jié)或損失千萬美元 實習生惡意破壞模型訓練

相關(guān)新聞

今日熱點

頻道熱點

字節(jié)或損失千萬美元實習生惡意破壞模型訓練