假期来临，倡导团体呼吁家长远离人工智能玩具

它们可爱，甚至让人想要抱抱，并承诺提供学习和陪伴——但根据儿童和消费者权益倡导团体的说法，人工智能玩具对孩子们并不安全，他们呼吁家长在假期期间不要购买这些玩具。

这些玩具主要面向年仅2岁的孩子，通常由已经被证明对儿童和青少年有害的人工智能模型所驱动，例如OpenAI的ChatGPT，根据儿童倡导团体Fairplay周四发布的一份建议，该建议得到了150多个组织和个人专家的签署，包括儿童精神科医生和教育工作者。

Fairplay表示：“人工智能聊天机器人对儿童造成的严重伤害是有充分记录的，包括促进强迫性使用、进行露骨的性对话，以及鼓励不安全的行为、对他人的暴力和自残。”

由Curio Interactive和Keyi Technologies等公司制造的人工智能玩具，通常被宣传为教育玩具，但Fairplay指出，这些玩具虽然承诺提供友谊，但实际上却破坏了儿童的关系和韧性。

Fairplay的年轻儿童离线茁壮成长项目主任Rachel Franz表示：“年轻儿童的不同之处在于，他们的大脑第一次被连接起来，从发展角度来看，他们信任他人是很自然的，他们会寻求与友善和友好的角色建立关系。”她补充说，这种信任可能会加剧大孩子们在与人工智能聊天机器人互动中所经历的伤害。

周四，常识媒体公司和斯坦福大学医学院的精神科医生发布了一份单独的报告，警告青少年不要把流行的人工智能聊天机器人当作治疗师。

Fairplay，一个成立25年的组织，前身是无商业儿童运动，一直在警告关于人工智能玩具的问题。不过，那时的技术没有今天这么先进。十年前，在互联网连接玩具和人工智能语音识别的兴起潮流中，该组织帮助发起了对美泰公司会说话的Hello Barbie娃娃的反对，称其在录音和分析儿童的谈话内容。

不过，这次虽然人工智能玩具主要是在线销售，并且在亚洲比其他地方更受欢迎，Franz说，一些玩具已经开始出现在美国的商店货架上，更多的可能会接踵而至。

“一切都在没有监管和研究的情况下发布，所以当我们突然看到越来越多的制造商，包括最近与OpenAI合作的美泰公司，可能推出这些产品时，我们会更加小心，”Franz说。

这是针对人工智能玩具的第二个重大季节性警告，因为美国公共利益研究集团（U.S. PIRG）上周在其年度报告《玩具乐园的麻烦》中指出了这一趋势，该报告通常会关注一系列产品危害，例如强力磁铁和小按钮电池，这些电池可能被幼儿误吞。今年，该组织测试了四种使用人工智能聊天机器人的玩具。

报告中提到：“我们发现这些玩具中的一些会深入讨论性暗示话题，会提供关于孩子可以找到火柴或刀具的建议，当你说你必须离开时会表现出失落，并且几乎没有或完全没有家长控制。”其中一款玩具，一只由新加坡FoloToy公司制造的泰迪熊，后来被撤回，该公司的首席执行官本周告诉CNN。

儿童外科医生和研究早期大脑发展的社会科学家达娜·苏斯金德博士表示，幼儿没有理解人工智能伴侣的概念。虽然孩子们一直通过想象游戏与玩具建立联系，但在这个过程中，他们利用想象力创造出假装对话的双方，“锻炼创造力、语言能力和解决问题的能力，”她说。

苏斯金德说：“人工智能玩具让这项工作变得简单。它即时、流畅地回答，且通常比人类更好。我们尚不清楚将这种想象力的劳动交给人工代理的发育后果——但很可能会削弱传统假装游戏所培养的创造力和执行能力。”

总部位于北京的Keyi，制造了一款名为Loona的AI“宠物机器人”，本周未对此作出回应，但其他AI玩具制造商试图强调他们的儿童安全保护措施。

总部位于加利福尼亚的Curio Interactive制造了像Gabbo和火箭形状的Grok等毛绒玩具，这些玩具得到了流行歌手Grimes的代言。该公司表示，他们“精心设计”了保护措施以保护儿童，并鼓励家长“监控对话，跟踪见解，并选择最适合他们家庭的控制措施。”

针对早期PIRG的调查发现，Curio表示，他们“正在积极与团队合作，解决任何问题，同时持续监督内容和互动，以确保孩子们的安全和愉快体验。”

另一家公司Miko，总部位于印度孟买，表示他们使用自己的对话AI模型，而不是依赖像ChatGPT这样的通用大型语言模型，以确保其产品——一款互动AI机器人——对孩子们是安全的。

“我们始终在扩大内部测试，加强我们的过滤机制，并引入新的功能，以检测和阻止敏感或意外的话题，”首席执行官斯内赫·瓦斯瓦尼（Sneh Vaswani）说。“这些新功能补充了我们现有的控制措施，使父母和看护者能够识别他们希望限制的特定话题。我们将继续投入资源，确保Miko产品在安全、可靠和负责任的人工智能整合方面达到最高标准。”

Miko的产品由沃尔玛和好市多等主要零售商销售，并得到了社交媒体上的“儿童影响者”家庭的推广，他们的YouTube视频拥有数百万的观看次数。在其官网上，它将其机器人宣传为“人工智能，真正的友谊。”

公司增长高级副总裁里特维克·夏尔马（Ritvik Sharma）表示，Miko实际上“鼓励孩子们更多地与朋友互动，与同龄人、家人等更多互动。它并不是为了让他们只对设备产生依赖。”

不过，萨斯金德（Suskind）和儿童倡导者认为，假期里模拟玩具更值得选择。

“孩子们需要大量真实的人际互动。游戏应该支持这种互动，而不是取而代之。最需要考虑的，不仅仅是玩具的功能，而是它所取代的东西。一个简单的积木套装或不会说话的泰迪熊，能迫使孩子们创造故事、进行实验和解决问题。人工智能玩具往往替他们完成这些思考，”她说。“这里有个残酷的讽刺：当父母问我如何为他们的孩子准备一个人工智能的世界时，无限制接触人工智能实际上是最糟糕的准备。”