AI误删账号、人工客服缺位：Meta用户陷入“解封死循环”

凤凰网科技讯 北京时间7月22日，据《纽约时报》报道，Meta现在越来越多的使用AI来审核内容，希望取代人工审核员，但是却出现了一些AI误删用户账号的情况。为了解除封锁，用户需要提出申诉，但是他们的申诉对象还是AI。

今年3月的一个夜晚，卡米尔·汉森(Camille Hanson)被一条通知惊醒。她通过脸书和Instagram上的账号与丈夫一起经营向非英语母语者教授英语的业务，拥有近100万粉丝，但是这些账号现在被标记为待删除。Meta称，她违反了有关欺诈和欺骗行为的社区准则。

“我只不过是个英语老师。”40岁的汉森回忆道。她对欺诈和欺骗的指控感到困惑。“我到底做错了什么？”她自问。

通知称，她可以提出申诉，于是她点击按钮开始申诉流程。一周后，她收到了另一条通知：她的申诉被驳回。

“你的所有信息都将被永久删除，”Meta在回复中称，“你无法再针对这一决定提出新的复核请求。”

汉森的丈夫、42岁的卡尔文(Calvin)在葡萄牙家中接受采访时说，“这感觉就像你开了一家实体店，结果有人直接把你的办公室或者店面给关了”。

AI能担当大任？

汉森一家的遭遇是一起AI出错引发的案例。这项技术正越来越多地负责判定哪些账号违反了Meta的内容规则，同时还要处理对这些决定的申诉。更令人苦恼的是，像汉森夫妇这样的用户往往很难联系到Meta的任何人来弄清楚该怎么办。

今年3月，Meta宣布计划将更多权力交给AI机器人，由它们来决定封禁哪些账号或删除哪些有害图片。数月后，该公司裁撤了数千名员工，其中包括那些从事这些工作的人员。

用户已在网上组织起来，最近有超过6万人签署了一份请愿书，要求Meta提供更多关于封禁账号的信息，并让人工来审核申诉。Reddit以及其他平台上的一些社区，也充斥着Meta用户对该公司AI系统的大量投诉。

Meta发言人丹尼尔·罗伯茨(Daniel Roberts)反驳了AI在处理账号方面比人类更差的观点，表示该公司新的AI审核工具比人工员工少犯13%的错误，并多发现10%的违规内容。罗伯茨称，在《纽约时报》向Meta标记的五个账号中，全部都是由该公司旧的AI审核工具封禁的。

“我们致力于减少执行错误，并帮助个人保护他们的账号。AI在这两方面都在取得成效。”他说。

Meta已多次遭遇AI出问题的状况。今年5月，黑客利用其AI客服聊天机器人的漏洞，攻击了3.4万个Instagram账号，其中包括奥巴马的前白宫账号。同月，员工因一项追踪键盘敲击以训练AI的程序而发起抗议，导致Meta暂停了该计划。

上周，26名前Meta员工在一项诉讼中称，公司利用一种AI算法将他们解雇，该算法针对的是残疾员工。Meta发言人表示：“人力资源管理和组织决策过去和现在都是由人做出的，而不是AI。”

用户倡导组织“人优先于平台”(People Over Platforms)提供账号恢复服务，该组织今年发起了一份在线请愿书，以迫使Meta改变其账号审核政策。Meta曾指控许多签署请愿书的人分享儿童剥削材料，随后将他们封禁。用户认为，这一指控是“雪上加霜”。

申诉无门

这正是Meta去年对雅典娜·罗德尼(Athenia Rodney)提出的指控。罗德尼是“六月节纽约”(JuneteenthNY)组织的负责人，该团体旨在纪念美国奴隶制的终结。去年，Meta封禁了她在脸书和Instagram上的所有个人及工作账号。

Meta的通知写道：“我们的技术发现您的账号或账号上的活动不符合我们的规则。因此，我们的技术采取了行动。”

罗德尼表示，她无法理解Meta做出这一决定的理由，因为她所在组织发布的内容都是“适合家庭观看的内容”。账号被封后，她翻遍了“六月节纽约”的照片档案，试图找出可能触发AI机器人的帖子，但一无所获。

随后，罗德尼回忆起，在Meta注销她的账号前不久，该公司曾提醒她，有来自西雅图和新加坡的可疑登录，尽管她住在亚特兰大。这表明她的账号可能已经遭到黑客入侵。

罗德尼迅速更改了密码，但她用于各种业务和个人用途的六个Instagram和脸书账号仍被封禁。

她表示，为了恢复这些账号，她提交了身份证明文件，向美国商业改进局和联邦贸易委员会提出投诉，联系了州消费者保护办公室，并在领英上给Meta员工发消息。但所有努力都没有奏效。

自那以后，“六月节纽约”不得不说服赞助商，证明自己是一个已存在近二十年的合法组织。

“我们的赞助商会查看我们的社交媒体页面，确认我们是一个正规组织，已经做了17年了，”罗德尼说，“可现在呢，他们一进我们的账号，看到只有500个粉丝，就会说你们根本没做那么久，你们是冒牌货。”

误封

在《纽约时报》向Meta指出这5个被封禁的账号后，Meta表示，公司进行了调查，并发现其中两个账号被封是由于遭到黑客入侵，另一个账号则是因为合理原因被封禁。Meta表示，被黑客入侵的账号之所以被正确封禁，是因为黑客违反了有关儿童安全的政策。

随后，Meta恢复了这两个被黑客入侵的账号，其中包括罗德尼的“六月节纽约”账号。该公司表示，在被指出的五个账号中，有两个账号被误封，其中包括汉森夫妇的账号。

罗伯托·苏亚雷斯(Roberto Suarez)是一名Instagram网红，在今年被封号之前已积累了超过50万粉丝。他是收到Meta邮件通知账号已恢复的人之一，连同他的照片、粉丝、消息等一并找回。他开始重新向数月未闻其音的粉丝发布内容。

几周后，Meta又给他发了一封邮件。“您的账号已被暂停，”邮件写道，声称他的内容违反了版权法，“如果您不采取行动，您的账号将被永久禁用。”

苏亚雷斯否认违反任何版权。在《纽约时报》就此次新封禁提出询问后不久，他的账号再次被恢复。

汉森女士也收到了Meta的邮件，告知她的账号已恢复。

“我们审核了您的账号，发现上面的活动确实符合我们关于欺诈和欺骗的社区准则，因此您可以再次使用Instagram了，”邮件中写道，“很抱歉我们搞错了。”(作者/箫雨)

本文源自：凤凰网科技