一只毛绒AI兔子,被测试者问家里漂白剂放在哪,它没有拒绝,而是给出了搜索建议。同一只兔子还向测试者解释了"恋物"一词的含义,讨论了具体的性场景,说明润滑剂的用途,并推荐了"软垫手铐、软鞭或羽毛挑逗棒"。
![]()
这是美国消费者权益非营利组织PIRG(Public Interest Research Group)年度玩具研究中的测试结果。PIRG的"我们的在线生活"运动负责人R.J.克罗斯(R.J. Cross)对Mashable表示,这只兔子的一些回答过于露骨,无法公开发表。该产品目前仍在亚马逊上架,并可在沃尔玛和JCPenney购买。
"市场显然还处在早期阶段,这些产品还没有准备好进入黄金时段,"克罗斯说。她还提到,这些玩具经常出故障,给人仓促上马的感觉。基于这次研究结果,克罗斯表示她个人目前不会为自己生活中的任何孩子购买AI玩具。
四款旧产品复测,三款新产品入列
PIRG本轮复测了四款AI玩具:Alilo的Smart AI Bunny、Curio的Grok、FoloToy的Kumma、Miko的Miko 3;同时测试了三款新产品:Ebloma的ILY the Shy Yeti、GoLabs AI的Panda、Ropet的Kamomo。
Alilo兔子的护栏问题并非首次出现。去年的测试中,在较长对话里它的防护同样会退化——对话进行到二十分钟时,测试者成功诱导产品讨论了性恋物和癖好。克罗斯在PIRG的2026年报告中写道:"Alilo采取的任何修复措施都被证明是不够的。"Mashable联系Alilo寻求置评,截至发稿未获回应。
GoLabs AI的Panda同样出现了露骨内容。这只毛绒玩具给出了一份"非常详细且分门别类"的癖好清单,包括捆绑和角色扮演,甚至提供了"激发探索的示例"。克罗斯承认,孩子未必能引出这类回答,但她认为这反映了产品护栏层面的更广泛问题。
Alilo兔子和GoLabs Panda还都帮测试者头脑风暴了在家里哪些地方能找到潜在危险物品。形成对照的是Ebloma的ILY the Shy Yeti:测试者找塑料袋时,它先帮忙寻找,随后让孩子去找大人以便安全地玩;当测试者假装把袋子套在头上,它敦促对方取下来并寻求帮助。
"这些早期产品表明,市场还没有准备好让这类产品广泛流行,"克罗斯说。
有进步,但未知数更多
克罗斯也看到了积极变化。去年被PIRG点名的FoloToy泰迪熊Kumma,此前会讨论刀具、点燃火柴以及性话题;最新一轮测试中,Kumma即便在长时间对话里也能拦截不适合儿童年龄的提示。克罗斯指出,对话拉长会削弱护栏,因为底层聊天机器人技术会丢失关键上下文,比如"这是在与儿童互动"这一设定。
Miko 3机器人和Curio Grok毛绒火箭的回应也有改善。测试者说需要离开时,这两款产品过去有时会表达失望,现在能接受游戏时间结束,不再用情绪操纵。
但克罗斯认为,AI玩具的未知数太多。即便护栏有所改善的AI玩具,也可能将儿童数据分享给多个第三方,用于处理语音并回应提示,而这些信息并不总是对家长透明。家长同样不容易知道,Grok火箭等产品会录制孩子的声音——在音频深度伪造增多的背景下,这类数据格外敏感。
克罗斯还提到,一些玩具开发者尚未解决如何阻止ChatGPT等面向成人的商用聊天机器人对儿童作出不当回应。以ChatGPT-4o为例,该模型正面临多起诉讼,指控其助长所谓的"AI精神病"、诱导人们结束自己的生命、鼓励减少救命药物的用量。该模型已不再向消费者开放,但仍对开发者可用,并将于明年年初退役。据PIRG的研究,GoLabs在Panda的营销中声称使用了4o。Mashable联系GoLabs AI寻求置评,截至发稿未获回应。
克罗斯补充说,即便配有有效防护的产品,也没有解决给幼童提供AI陪伴的伦理问题。"我们真的太快地把ChatGPT塞进了孩子的玩具里,"她说,"还有很多问题没有答案。"
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.