Meta拿员工电脑训练AI 结果4.5万张数据表没锁住导致项目暂停

Source
6月23日消息,Meta已无限期暂停一项内部AI训练项目。该项目记录员工工作电脑上的键盘输入、鼠标操作和屏幕内容,用于训练AI学会操作软件;暂停原因是项目数据的访问权限曾被错误配置,约4.5万张数据表一度对Meta内部人员开放。

WIRED和BusinessInsider分别报道了这起内部权限事故。根据Meta内部安全通告,出问题的数据属于"模型能力计划"(ModelCapability Initiative,MCI),其中包含员工工作电脑上的操作痕迹,以及"完整AI提示词和转录文本、私人对话、人员和绩效数据"等敏感内容。WIRED报道中提到的数据主要涉及Meta美国员工的公司设备。

Meta发言人特雷西·克莱顿(Tracy Clayton)确认公司正在调查这一安全事件,并称MCI已在调查期间无限期暂停。她同时强调,Meta"目前没有迹象显示数据曾被员工不当访问"。不过这只是当前调查阶段的说法,不等于最终结论。

1600名员工担心的风险,果然出现了

MCI今年4月启动,目标是采集员工在电脑上的工作行为数据,用于训练AI系统。Meta首席执行官马克·扎克伯格(Mark Zuckerberg)此前在内部会议上解释过这一思路:AI模型可以通过观察优秀员工的工作方式来学习,而Meta员工比专门雇来生产这类数据的外包人员更适合提供高质量样本。

这套解释没有说服多数员工。5月,超过1600名Meta员工签署内部请愿书,要求停止这项电脑行为追踪。请愿书指出,收集这类数据会带来安全和监管风险,包括数据泄露和未经授权披露。

Meta首席技术官安德鲁·博斯沃思(Andrew Bosworth)此前曾向员工表示,MCI数据管理"受到严格控制",采用与公司其他敏感数据集相同的保护标准、存储系统和访问控制。但这次事件后,博斯沃思承认项目实际执行没有达到隐私审查文件列出的标准。他在内部帖子中称,问题出在访问控制列表配置错误,公司需要查清原因并追踪数据访问路径。

不是外部攻击,而是内部权限没有锁好

这起事件在Meta内部被定级为SEV2。按报道中的解释,Meta内部严重度等级从0到5,0最严重,SEV 2属于较高等级。WIRED看到的内部帖子显示,事件已被标记为"关闭",意味着权限问题可能已修复,但Meta尚未公开说明具体修复措施和完整时间线。

对员工来说,争议点不只是有没有人实际查看了他人数据,而是公司此前承诺"严格控制"的敏感数据集,确实出现过访问权限过宽的问题。一名员工在内部论坛写道:自己看不到恶意访问的证据,但数据没有像当初承诺的那样被锁住,"令人愤怒"。BusinessInsider也报道称,内部员工对该项目和这次事件反应强烈。

这起事件也触及Meta面临的更长期监管约束。Meta仍受美国联邦贸易委员会(FTC)一项同意令约束,该命令要求公司维持防止数据泄露的流程,有效期直到2040年。WIRED还提到,Meta已经开始让AI参与部分隐私和安全审查工作;不过,目前没有证据显示AI参与了这次MCI权限配置错误。

AI冲刺正在碰到公司内部信任成本

MCI不是一个孤立项目。Meta今年3月创建新的"应用AI"(Applied AI)团队,将约6500名员工划入相关岗位,目标是改进AI模型。Business Insider报道称,一些员工认为自己被分配的项目琐碎、消耗士气;博斯沃思上周就AI重组中的沟通问题向员工道歉,并承诺改进沟通、恢复部分办公福利。

这次MCI暂停,把Meta冲刺AI时的内部代价暴露得更具体。公司可以说目前没有发现不当访问迹象,但只要这类数据曾经被错误开放,员工对"用自己的工作行为训练AI"这件事的信任,就很难仅靠内部承诺修复。员工既是AI训练数据的提供者,也是隐私和安全风险的直接承受者。这个双重身份,才是这起事件真正刺痛的地方。