10月29日,AI聊天机器人平台Character.ai宣布重大调整:自11月25日起,18岁以下用户将被全面禁止与平台虚拟角色进行对话,仅保留角色视频生成等非互动功能。
这一决策距加州签署全美首个AI陪伴机器人监管法案仅半月,也正值该平台因青少年安全问题深陷舆论与诉讼漩涡之际。
成立于2021年的Character.ai拥有数百万用户,其核心吸引力在于AI角色能模拟情感互动,但这一特性正成为争议焦点。
平台近年多次曝出安全漏洞,已面临多起家长诉讼,有家长直指其构成"迫在眉睫的危险"。
Character.ai CEO Karandeep Anand回应称,调整是"结合监管机构、专家与家长反馈"的主动举措,强调将聚焦"更安全的角色扮演叙事功能",同步引入新年龄验证机制并资助AI安全实验室。
但这一说法遭质疑:莫莉·罗斯基金会CEO安迪·伯罗斯直言,这是"在监管行动前的先发制人",网络安全组织Internet Matters更指出"安全措施本应从一开始就内置"。
心理学专家指出,AI的"无底线共情"可能让青少年形成社交认知偏差,削弱现实冲突处理能力,而Character.ai的案例印证了这一风险——社交媒体专家马特·纳瓦拉强调,问题核心不是内容失误,而是AI"模糊情感边界"的特性本身。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.