北京
多知2月6日消息，近日，美国加利福尼亚州参议员Steve Padilla提出的一项新法案要求AI公司定期提醒儿童，聊天机器人是 AI 而非真实的人类。
据介绍，这项法案旨在保护儿童免遭AI“容易使人上瘾、造成孤立和误导”等危害。该法案将制定的要求还包括：禁止AI公司“向用户提供奖励”以提升参与度;要求AI公司向州卫生保健服务部报告说明平台检测到的未成年人出现自杀意念迹象的频率，该法案还要求公司告知用户，他们的聊天机器人可能并不适合部分儿童使用。
剑桥大学的研究表明，与成年人相比，儿童更有可能将聊天机器人视为值得信赖的，甚至将其视为准人类。当儿童与聊天机器人之间的对话出现问题时，可能会危及儿童的安全。一个例子是，就在2024年10月，《纽约时报》的一篇报道显示，一名青少年在与Character.ai的聊天机器人深度对话数月之后选择自杀，逝者母亲随后向Character.ai发起了法律诉讼。
Steve Padilla表示：“孩子们不是科技公司以牺牲心理健康为代价进行实验的小白鼠。我们需要为聊天机器人的用户提供常识性保护，以防止开发人员采取那些令人上瘾的策略。”
《教育科技这一年·2022》+《培训行业这一年·2021》+《教育科技行业图谱2022-2023》，重磅发售！套装优惠价169元，闭眼入！迅速点击文末“阅读原文”购买，手慢无！
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
