訊息稱位元組跳動大模型訓練被實習生攻擊，涉事者已被辭退
2024-10-19 01:31:11 4
IT之家 10 月 18 日訊息，據介面新聞報道，今日多個微信群流傳一則訊息：“某頭部大廠的大模型訓練被實習生入侵，注入了破壞程式碼，導致其訓練成果不可靠，可能需要重新訓練。據稱遭到入侵的程式碼注入了 8000 多張卡，帶來的損失可能超過千萬美元。”
據知情人士處透露，該頭部大廠為位元組跳動。此事發生在今年 6 月，起因是某高校的博士在位元組跳動商業化技術團隊實習，因對團隊資源分配不滿，使用攻擊程式碼破壞團隊的模型訓練任務。截至目前，官方未進行回應。
傳聞顯示，該田姓實習生利用了 HF（IT之家注：huggingface）的漏洞，在公司的共享模型裡寫入破壞程式碼，導致模型的訓練效果忽高忽低，無法產生預期的訓練效果，而且 AML 團隊無法核查原因。但傳聞曝出之後，該實習生還在某微信群裡闢謠稱，自己發完論文後就從位元組跳動離職，這個當口有另一個人鑽漏洞改模型程式碼，把鍋扣到自己頭上。
知情人士稱，位元組跳動內部已經調查明確此事為田姓實習生所為。目前，該實習生已被辭退，位元組跳動同時把此事同步給陽光誠信聯盟和企業反舞弊聯盟，以及該實習生所在的給學校。但這名實習生被辭退後到處“闢謠”甩鍋，稱是其他人所為。
報道稱，該實習生攻擊的並不是豆包大模型，而是商業化技術團隊的模型訓練任務，影響了該技術團隊的一些業務進展，但整體對公司造成的損失並沒有傳聞中的超過千萬美元那麼大。
本站內容由互聯網用戶自發貢獻，該文觀點僅代表作者本人。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。如發現本站有涉嫌抄襲侵權/違法違規的內容,請發送郵件至舉報，壹經查實，本站將立刻刪除。