北京
6月23日消息，Meta已无限期暂停一项内部AI训练项目。该项目记录员工工作电脑上的键盘输入、鼠标操作和屏幕内容，用于训练AI学会操作软件；暂停原因是项目数据的访问权限曾被错误配置，约4.5万张数据表一度对Meta内部人员开放。
WIRED和Business Insider分别报道了这起内部权限事故。根据Meta内部安全通告，出问题的数据属于"模型能力计划"（Model Capability Initiative，MCI），其中包含员工工作电脑上的操作痕迹，以及"完整AI提示词和转录文本、私人对话、人员和绩效数据"等敏感内容。WIRED报道中提到的数据主要涉及Meta美国员工的公司设备。
Meta发言人特雷西·克莱顿（Tracy Clayton）确认公司正在调查这一安全事件，并称MCI已在调查期间无限期暂停。她同时强调，Meta"目前没有迹象显示数据曾被员工不当访问"。不过这只是当前调查阶段的说法，不等于最终结论。
1600名员工担心的风险，果然出现了
MCI今年4月启动，目标是采集员工在电脑上的工作行为数据，用于训练AI系统。Meta首席执行官马克·扎克伯格（Mark Zuckerberg）此前在内部会议上解释过这一思路：AI模型可以通过观察优秀员工的工作方式来学习，而Meta员工比专门雇来生产这类数据的外包人员更适合提供高质量样本。
这套解释没有说服多数员工。5月，超过1600名Meta员工签署内部请愿书，要求停止这项电脑行为追踪。请愿书指出，收集这类数据会带来安全和监管风险，包括数据泄露和未经授权披露。
Meta首席技术官安德鲁·博斯沃思（Andrew Bosworth）此前曾向员工表示，MCI数据管理"受到严格控制"，采用与公司其他敏感数据集相同的保护标准、存储系统和访问控制。但这次事件后，博斯沃思承认项目实际执行没有达到隐私审查文件列出的标准。他在内部帖子中称，问题出在访问控制列表配置错误，公司需要查清原因并追踪数据访问路径。
不是外部攻击，而是内部权限没有锁好
这起事件在Meta内部被定级为SEV 2。按报道中的解释，Meta内部严重度等级从0到5，0最严重，SEV 2属于较高等级。WIRED看到的内部帖子显示，事件已被标记为"关闭"，意味着权限问题可能已修复，但Meta尚未公开说明具体修复措施和完整时间线。
对员工来说，争议点不只是有没有人实际查看了他人数据，而是公司此前承诺"严格控制"的敏感数据集，确实出现过访问权限过宽的问题。一名员工在内部论坛写道：自己看不到恶意访问的证据，但数据没有像当初承诺的那样被锁住，"令人愤怒"。Business Insider也报道称，内部员工对该项目和这次事件反应强烈。
这起事件也触及Meta面临的更长期监管约束。Meta仍受美国联邦贸易委员会（FTC）一项同意令约束，该命令要求公司维持防止数据泄露的流程，有效期直到2040年。WIRED还提到，Meta已经开始让AI参与部分隐私和安全审查工作；不过，目前没有证据显示AI参与了这次MCI权限配置错误。
AI冲刺正在碰到公司内部信任成本
MCI不是一个孤立项目。Meta今年3月创建新的"应用AI"（Applied AI）团队，将约6500名员工划入相关岗位，目标是改进AI模型。Business Insider报道称，一些员工认为自己被分配的项目琐碎、消耗士气；博斯沃思上周就AI重组中的沟通问题向员工道歉，并承诺改进沟通、恢复部分办公福利。
这次MCI暂停，把Meta冲刺AI时的内部代价暴露得更具体。公司可以说目前没有发现不当访问迹象，但只要这类数据曾经被错误开放，员工对"用自己的工作行为训练AI"这件事的信任，就很难仅靠内部承诺修复。员工既是AI训练数据的提供者，也是隐私和安全风险的直接承受者。这个双重身份，才是这起事件真正刺痛的地方。（易句）
（本文由AI翻译，网易编辑负责校对）
本文来源：网易智能
责任编辑：
王凤枝_NT2541
