Home 模型投毒事件后续,字节正式起诉实习生,索赔802万元.md
Post
Cancel

模型投毒事件后续,字节正式起诉实习生,索赔802万元.md

世界是一个巨大的草台班子,大多数人没有你想象的厉害。

大家好,我是章北海

之前字节跳动模型被“投毒”的新闻有了后续:字节跳动请求北京市海淀区人民法院判令田某某赔偿公司侵权损失 800 万元及合理支出 2 万元,并公开赔礼道歉。

简单回顾

2024 年 6 月至 7 月,字节跳动集团商业产品与技术部门前实习员工田某某因对团队资源分配不满,通过编写、篡改代码等形式恶意攻击团队研究项目的模型训练任务,造成资源损耗。

这哥们干了点啥呢?

骚操作如下:

1 修改集群 pytorch 源码,包括随机种子,优化器,数据加载。 2 随机 kill 多机实验进程,导致大卡实验卡死
3 通过 checkpoint 打开登陆后门,自动发起攻击随机停止进程
4 参加集群故障排查日会,根据同事排查思路持续定向修改攻击代码
5 修改同事模型权重,造成实验结果无法复现

动机居然仅是报复团队资源分配不公

后来字节跳动发文澄清:涉事行为恶意干扰的是字节跳动商业化技术团队某研究项目的模型训练任务,并不影响公司正式项目及线上业务,也不涉及字节跳动大模型等其他业务。网传“涉及 8000 多卡、损失上千万美元”属于严重夸大。

由于田某某为在读博士,字节本想大事化小,解除实习协议,同步至其就读学校处理。

但是这哥们也搞了澄清,多次对外否认,称攻击模型训练任务的不是自己,而是别的实习生,甚至报警称遭到造谣,所有才有字节起诉的事儿。

这事儿蛮有意思

字节跳动这么大公司,也 TM 草台班子么?

代码评审呢?权限隔离呢?上线规范呢?安全管理呢?都是形同虚设啊?

一个实习生,怎么滴就无声无息地可以轻易改动底层代码呢?

有技术安全专家表示:

目前行业通用的做法是做三级隔离导向性部署,每一级只有镜像,每次先扫描。调用按次算、必须密钥。每一级完成后,才能进入下一级,而上一级自动删除,进行分级训练。

所以,这些在字节都不存在!

这位实习生也是草台中的草台

为何他的信息会如此迅速的被扒了个干干净净呢?

这哥们把自己的录取通知书、毕业证学位证、微信二维码传到了 WordPress 博客上,REST API 一查直接全漏了…….

世界就是一个巨大的草台班子,大部分人都水到离谱……
再厉害的人也是边干边学,大家都是在虚张声势,只不过互不揭穿罢了。

This post is licensed under CC BY 4.0 by the author.