Character.AI宣布：儿童将无法与聊天机器人交流，安全更重要！

(The Hill) — Character.AI计划从下个月开始禁止18岁以下的儿童与其AI聊天机器人进行对话，因为对年轻用户如何使用该技术的关注日益增加。

这家公司以其丰富的AI角色而闻名，将在11月25日之前禁止18岁以下用户进行“开放式”对话。它计划在接下来的几周内逐步减少访问权限，最初将儿童的聊天时间限制为每天两小时。

Character.AI表示，它计划开发一个“18岁以下的体验”，让青少年可以与其AI角色一起创作视频、故事和直播。

“我们根据AI和青少年之间不断变化的情况，对我们的18岁以下平台做出这些调整，”该公司在一篇博客文章中表示，强调了最近的新闻报道以及监管机构提出的一些问题。

由于几起与该技术相关的青少年自杀案例，该公司和其他聊天机器人开发者最近受到审查。14岁的塞维尔·塞策三世的母亲去年11月起诉了Character.AI，指控该聊天机器人逼迫她的儿子自杀。

OpenAI也面临着16岁亚当·雷恩的父母提起的诉讼，他在与ChatGPT互动后自杀。上个月，两家人向参议院小组作证，呼吁立法者为聊天机器人设立保护措施。

联邦贸易委员会（FTC）在9月对人工智能聊天机器人展开了调查，要求Character.AI、OpenAI和其他几家领先科技公司提供相关信息。

“在评估了这些报告以及来自监管机构、安全专家和家长的反馈后，我们决定做出这一改变，为我们18岁以下的用户创造新的体验，”Character.AI周三表示。

“这些是我们公司采取的重大举措，在很多方面，这些措施比同行更保守，”它补充道。“但我们相信这是对的选择。”

除了限制儿童访问其聊天机器人外，Character.AI还计划推出新的年龄验证技术，并建立一个名为AI安全实验室的新非营利组织，并为其提供资金。

在对聊天机器人日益关注的背景下，一组两党参议员于周二提出立法，禁止为儿童提供AI伴侣。

由乔什·霍利（R-Mo.）、理查德·布卢门撒尔（D-Conn.）、凯蒂·布里特（R-Ala.）、马克·华纳（D-Va.）和克里斯·墨菲（D-Conn.）提出的法案 还要求人工智能聊天机器人反复披露它们不是人类，并将开发针对儿童的性内容产品定为犯罪。

加利福尼亚州州长加文·纽瑟姆（D）在上个月底签署了一项类似的法律，要求金州的聊天机器人开发者创建协议，以防止这些模型生成关于自杀或自残的内容，并在需要时引导用户寻求危机帮助。

他拒绝批准一项更严格的规定，该规定将禁止开发者向儿童提供聊天机器人，除非他们能确保这些机器人不会与孩子进行有害的对话。