Meta决定暂停青少年使用AI角色，背后原因引发热议

他们称之为 周五新闻泄露 — 公司在媒体最不可能关注的日子发布尴尬的新闻。但Meta刚刚把周五新闻泄露提升到了一个全新的水平，宣布：它已禁用青少年账户的AI角色，至少在这些角色能够自我约束之前。

这条消息不仅是在周五发布的 — 它是在去年十月的一篇博客更新中发布的。

“我们已经开始构建一个新的AI角色版本，以给用户带来更好的体验，”Instagram负责人亚当·莫塞里和首席AI官亚历山大·王的通知现在写道 — 这是Meta长期以来承诺的升级。接下来是那部分会让很多孩子度过一个非常不寻常的周五。

“在我们专注于开发这个新版本的同时，我们暂时暂停青少年对现有 AI 角色的全球访问权限。从接下来的几周起，青少年将无法在我们的应用中访问 AI 角色，直到更新的体验准备好。这适用于所有提供青少年生日信息的人，以及那些声称自己是成年人，但我们根据年龄预测技术怀疑他们实际上是青少年的用户。”

据 TechCrunch 报道，Instagram 和 Facebook 的开发者强调 “他们并没有放弃对 AI 角色的努力”。不过，这显然承认当前版本的 AI 角色在青少年安全和心理健康方面存在风险。

Meta并不是唯一发现这一问题的公司。Character.AI和谷歌本月都解决了多位自杀儿童父母提起的诉讼。其中一位是14岁的男孩，他的母亲称他实际上是被一个基于权力的游戏角色丹妮莉丝·坦格利安的聊天机器人诱导并性虐待的。

在网络安全专家的报告抨击后，Character.AI在十月关闭了所有未满18岁用户的聊天功能，这比Meta在两个月前简单决定开始训练其青少年聊天机器人不与青少年用户讨论自残、自杀、饮食失调或潜在不当的浪漫对话晚。显然，这样的训练还不够。

这并不是Meta第一次在其人工智能角色账户的计划上退缩。2024年，它删除了基于名人的人工智能角色。去年一月，在遭遇对其被认为是种族主义的反弹后，它关闭了所有的人工智能角色资料。

青少年使用的问题也不容小觑。超过一半的13至17岁青少年在去年由Common Sense Media进行的调查中表示他们每月至少使用一次AI伴侣。目前，他们只能在Meta之外的地方使用这些AI伴侣。