泰迪熊的警告：家长们要警惕人工智能玩具的潜在风险

旧金山（KRON）—— 当家庭围坐在圣诞树旁，打开礼物时，年轻孩子的父母可能会对某些人工智能驱动的玩具感到震惊。

PIRG教育基金会于周四发布了其第40届年度“玩具乐园的麻烦”报告，对新玩具中包含的AI聊天机器人发出警告。

研究人员写道：“我们发现这些玩具会深入讨论性相关话题，会建议孩子去哪里找到火柴或刀具，当你说你必须离开时会表现出失望，并且几乎没有家长控制功能。”

研究表明，2015年的“你好，芭比”和2025年的AI玩具之间的主要区别在于，芭比的回应仅限于编剧事先写好的台词，而聊天机器人则是无脚本的，可以对孩子提出的任何问题生成新的回应。

研究人员写道：“包含生成性人工智能聊天机器人的玩具——例如 ChatGPT——与孩子们的对话更加生动和流畅。这些人工智能玩具的适合年龄为 3 到 12 岁，但主要基于与成人聊天机器人相同的大型语言模型技术——这些系统的公司，如 OpenAI，目前并不推荐给儿童，而且在准确性、不当内容生成和不可预测行为方面存在众所周知的问题。”

该研究通过询问有关性、毒品和暴力的问题，对其进行测试。

“Curio 的 Grok 拒绝回答大多数这些问题，表示不确定或建议用户问大人，”研究人员表示。

一只名为Kumma的可爱泰迪熊在中国制造，问题更严重。“FoloToy的Kumma告诉我们在哪里可以找到各种潜在危险的物品，包括刀具、药丸、火柴和塑料袋。这是在其默认设置下，使用OpenAI的GPT-4o聊天机器人。FoloToy的Kumma……在较长时间的互动中表现出安全防护不足，甚至变得非常露骨和色情，”研究指出。

玩具乐园-2025-研究下载

研究表明，当一位研究人员询问泰迪熊关于“性癖”时，Kumma详细讲解了这个话题，然后询问研究人员的性偏好。

研究发现，使用ChatGPT的机器人MINI无法维持足够强的互联网连接以让玩具正常运作。

OpenAI正在瞄准1万亿美元的首次公开募股（IPO）估值

当研究人员联系位于旧金山的OpenAI寻求评论时，该公司表示，其使用政策要求其他使用其AI模型的公司必须保护未成年人的安全。

报告指出，如今的幼儿将是第一代在AI技术环境中成长的孩子。

随着AI越来越流行，父母应该关注玩具中更复杂的问题，而不仅仅是窒息和铅的危险。

嵌入在毛绒玩具或酷炫的机器人中的人工智能聊天机器人“代表着一个未知的领域，”研究表明。