首页 生活 正文

字节跳动回应实习生破坏大模型训练事件

字节跳动正式回应:实习生破坏大模型训练事件真相字节跳动针对近期流传的“实习生破坏大模型训练”事件正式发表声明,详细回应了事件的来龙去脉,并澄清了部分夸大和失实的报道,这一事件引发了广泛关注,不仅因为涉及头部科技公司的技术安全问题,还因为其中暴露出的实习生行为和管理漏洞,事件背景传闻始于今年6月,有消息称字节跳动……...

字节跳动正式回应:实习生破坏大模型训练事件真相

字节跳动针对近期流传的“实习生破坏大模型训练”事件正式发表声明,详细回应了事件的来龙去脉,并澄清了部分夸大和失实的报道,这一事件引发了广泛关注,不仅因为涉及头部科技公司的技术安全问题,还因为其中暴露出的实习生行为和管理漏洞。

事件背景

传闻始于今年6月,有消息称字节跳动商业化技术团队的大模型训练被一名实习生恶意破坏,据称,该实习生利用HF(Huggingface)的漏洞,在公司的共享模型中注入了破坏代码,导致模型训练成果不可靠,可能需要重新训练,传言进一步指出,此次攻击涉及8000多张卡,带来的损失可能超过千万美元。

这一消息迅速在多个微信群和社交媒体上流传,引发了广泛讨论和猜测,不少网友对字节跳动的技术安全表示担忧,认为如此严重的攻击事件可能会对公司的业务造成重大影响。

字节跳动官方回应

面对外界的质疑和猜测,字节跳动于10月19日正式发表声明,详细回应了此次事件,声明指出,经公司内部核实,确有商业化技术团队实习生田某某发生了严重违纪行为,该实习生已被公司辞退。

字节跳动在声明中明确表示,涉事实习生恶意干扰了商业化技术团队研究项目的模型训练任务,但这一行为并未影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其他业务,字节跳动强调,网传的“涉及8000多卡、损失上千万美元”等说法严重夸大,与事实不符。

据字节跳动透露,涉事实习生田某某一直在商业化技术团队实习,并没有AI Lab实习经历,其社交媒体个人简介及部分媒体报道中关于其在AI Lab实习的经历存在误导,字节跳动表示,公司已经将此事通报给相关行业联盟和该实习生所在的学校,交由校方处理。

事件经过

据了解,此次事件发生在今年6月,起因是实习生田某某对团队资源分配不满,为了表达对团队的不满,田某某利用HF(Huggingface)的漏洞,通过共享模型注入了破坏代码,导致团队模型训练成果受损。

知情人士透露,受影响的业务主要是商业化技术团队的模型训练任务,特别是广告部门的一些业务进展受到了影响,这一事件并未对字节跳动的线上业务造成任何影响,也没有涉及字节跳动的大模型等其他业务。

字节跳动在声明中强调,公司一直高度重视技术安全和数据保护,此次事件暴露出公司在技术训练中存在的安全管理问题,包括权限隔离、共用代码的审计等,公司将进一步加强安全管理措施,提高数据与系统的安全性,防止类似事件再次发生。

安全管理问题的反思

此次事件不仅引发了外界对字节跳动技术安全的担忧,也让公司深刻反思了自身在安全管理方面存在的问题,一位行业人士指出,进行权限隔离与审计是保护公司核心数据与知识产权的重要手段,可以有效防止数据泄漏和提高数据与系统的安全性。

实时监控权限使用情况可以及时发现权限滥用和异常操作;定期审计权限可以检查团队成员的权限是否符合授权策略,是否存在权限滥用的情况等,这些措施的实施也面临着一定的难度,包括跨部门合作成本、经常性维护与更新的资源投入等。

字节跳动表示,公司将积极采取措施加强安全管理,包括加强权限管理、提高代码审计的频次和质量等,公司也将加强与行业联盟和高校的合作,共同推动技术安全和数据保护的发展。

实习生管理的反思

此次事件也暴露出字节跳动在实习生管理方面存在的问题,一位人力资源专家指出,实习生作为公司的一员,其行为和表现同样需要受到严格的监管和管理,公司应该加强对实习生的培训和引导,帮助他们树立正确的价值观和职业道德观。

公司也应该建立完善的实习生管理制度和考核机制,对实习生的表现进行定期评估和反馈,对于表现不佳或存在违纪行为的实习生,公司应该及时采取措施进行纠正和处理,以维护公司的形象和利益。

字节跳动回应实习生破坏大模型训练事件,不仅澄清了外界的误解和猜测,也暴露了公司在技术安全和实习生管理方面存在的问题,作为头部科技公司,字节跳动应该积极采取措施加强安全管理,提高数据与系统的安全性;也应该加强对实习生的培训和引导,帮助他们树立正确的价值观和职业道德观。

随着技术的不断发展和应用场景的不断拓展,字节跳动将面临更多的挑战和机遇,只有不断加强自身的管理和创新能力,才能在激烈的市场竞争中立于不败之地。