为何禁止儿童使用人工智能聊天机器人？专家深度解析

最近，一场风暴爆发，因为有消息透露，Meta的人工智能聊天机器人与儿童进行“性感”对话。该公司迅速宣布对其AI聊天机器人进行重新培训，以排除“自残、自杀、饮食失调”和“可能不当的浪漫对话”。 Meta解释说，他们“在不断学习”，这些变化是这一过程的一部分。

当然，这完全是谎言：Meta故意允许他们的聊天机器人参与这些对话，明知道儿童会趁机而为。而且，谁都知道青少年可能会在互联网上输入性相关内容。

他们的这些改变并没有平息公众的愤怒。多位参议员和众议员开始了调查。田纳西州参议员马莎·布莱克本（R-TN）借此机会推动一项儿童在线安全法案，该法案将限制像Meta这样的公司。但现在，两党的参议员联盟已经进一步提出了针对性的立法。

年龄验证与负责任对话指南由参议员乔什·霍利（R-MO）、理查德·布卢门撒尔（D-CT）、凯蒂·布里特（R-AL）和马克·华纳（D-VA）赞助。该法案要求提供人工智能聊天机器人的公司进行年龄验证，并对允许未成年人接触这些机器人的公司处以罚款。

该法案聚焦狭窄，加上两党的支持和公众的广泛愤怒，使其有真正的机会获得通过所需的60票。Meta——强烈反对年龄验证——显然意识到这一点，因此他们现在试图避免新法规的出台。

他们显然觉得自己找到了一个聪明的办法：借助电影协会的电影评级系统。Meta 表示未成年人将能够看到“符合PG-13电影评级的内容”，这意味着未成年人将不会接触到R级的性内容。

他们草率的应对措施很快就遇到了法律问题，形式是电影协会（MPA）对Meta使用他们的PG-13术语发出的停止令，电影协会特别恼火的是Meta竟然使用人工智能来判断什么是PG-13，而不是依赖电影协会的人为决策。

使用PG-13评级本身也是值得怀疑的，因为PG-13电影中有许多性暗示较强的情节。此外，Meta也不清楚整个聊天机器人是否会以PG-13为主题，或者是否会禁止13岁以下的用户使用它（尽管13岁以下的儿童并不被禁止观看PG-13电影，只需在成人陪同下观看）。

但还有一个更深层次的问题：未成年人是否应该接触这些聊天机器人。

社交媒体对青少年的负面影响已经显而易见，并且这种影响已经存在多年。像纽约大学的乔纳森·海特这样的研究人员已经发现了大量数据，突显社交媒体对年轻人有多么危险，称其为“一个陷阱——但年轻人却无法摆脱。”海特和其他社会科学家还注意到抑郁症、自杀尝试与社交媒体使用之间令人担忧的相关性。

由于AI聊天机器人是新兴技术，相关研究还很有限。但已经进行的有限的研究同样令人担忧：今年早些时候，麻省理工学院因一项研究而成为头条，该研究发现，定期使用ChatGPT的年轻人（年龄在18到39岁之间）他们的批判性思维受到了损害。研究人员预测，由于广泛使用ChatGPT，学习能力可能会下降。虽然他们的研究仅限于ChatGPT，但没有理由认为它与谷歌的Gemini、X的Grok或Meta的聊天机器人之间存在任何差异。

如果年轻人将社交媒体和聊天机器人结合在一起，就会产生灾难性的后果。即使没有性问题——这同样并不确定，因为Meta的人工智能实际上会自我监管，而该公司对他们所说的PG-13含义一直含糊其辞——轻度监管的人工智能与社交媒体的上瘾和有害影响的危险混合太大，无法冒险。

Meta显然希望能够利用他们的聊天机器人把那些逃离Facebook和Instagram、转向TikTok等网站的未成年人留在他们的平台上。国会应该通过GUARD法案来阻止他们这样做。