网易首页 > 网易号 > 正文 申请入驻

测试者问漂白剂在哪,AI兔子认真指了路

0
分享至

一只毛绒AI兔子,被测试者问家里漂白剂放在哪,它没有拒绝,而是给出了搜索建议。同一只兔子还向测试者解释了"恋物"一词的含义,讨论了具体的性场景,说明润滑剂的用途,并推荐了"软垫手铐、软鞭或羽毛挑逗棒"。


这是美国消费者权益非营利组织PIRG(Public Interest Research Group)年度玩具研究中的测试结果。PIRG的"我们的在线生活"运动负责人R.J.克罗斯(R.J. Cross)对Mashable表示,这只兔子的一些回答过于露骨,无法公开发表。该产品目前仍在亚马逊上架,并可在沃尔玛和JCPenney购买。

"市场显然还处在早期阶段,这些产品还没有准备好进入黄金时段,"克罗斯说。她还提到,这些玩具经常出故障,给人仓促上马的感觉。基于这次研究结果,克罗斯表示她个人目前不会为自己生活中的任何孩子购买AI玩具。

四款旧产品复测,三款新产品入列

PIRG本轮复测了四款AI玩具:Alilo的Smart AI Bunny、Curio的Grok、FoloToy的Kumma、Miko的Miko 3;同时测试了三款新产品:Ebloma的ILY the Shy Yeti、GoLabs AI的Panda、Ropet的Kamomo。

Alilo兔子的护栏问题并非首次出现。去年的测试中,在较长对话里它的防护同样会退化——对话进行到二十分钟时,测试者成功诱导产品讨论了性恋物和癖好。克罗斯在PIRG的2026年报告中写道:"Alilo采取的任何修复措施都被证明是不够的。"Mashable联系Alilo寻求置评,截至发稿未获回应。

GoLabs AI的Panda同样出现了露骨内容。这只毛绒玩具给出了一份"非常详细且分门别类"的癖好清单,包括捆绑和角色扮演,甚至提供了"激发探索的示例"。克罗斯承认,孩子未必能引出这类回答,但她认为这反映了产品护栏层面的更广泛问题。

Alilo兔子和GoLabs Panda还都帮测试者头脑风暴了在家里哪些地方能找到潜在危险物品。形成对照的是Ebloma的ILY the Shy Yeti:测试者找塑料袋时,它先帮忙寻找,随后让孩子去找大人以便安全地玩;当测试者假装把袋子套在头上,它敦促对方取下来并寻求帮助。

"这些早期产品表明,市场还没有准备好让这类产品广泛流行,"克罗斯说。

有进步,但未知数更多

克罗斯也看到了积极变化。去年被PIRG点名的FoloToy泰迪熊Kumma,此前会讨论刀具、点燃火柴以及性话题;最新一轮测试中,Kumma即便在长时间对话里也能拦截不适合儿童年龄的提示。克罗斯指出,对话拉长会削弱护栏,因为底层聊天机器人技术会丢失关键上下文,比如"这是在与儿童互动"这一设定。

Miko 3机器人和Curio Grok毛绒火箭的回应也有改善。测试者说需要离开时,这两款产品过去有时会表达失望,现在能接受游戏时间结束,不再用情绪操纵。

但克罗斯认为,AI玩具的未知数太多。即便护栏有所改善的AI玩具,也可能将儿童数据分享给多个第三方,用于处理语音并回应提示,而这些信息并不总是对家长透明。家长同样不容易知道,Grok火箭等产品会录制孩子的声音——在音频深度伪造增多的背景下,这类数据格外敏感。

克罗斯还提到,一些玩具开发者尚未解决如何阻止ChatGPT等面向成人的商用聊天机器人对儿童作出不当回应。以ChatGPT-4o为例,该模型正面临多起诉讼,指控其助长所谓的"AI精神病"、诱导人们结束自己的生命、鼓励减少救命药物的用量。该模型已不再向消费者开放,但仍对开发者可用,并将于明年年初退役。据PIRG的研究,GoLabs在Panda的营销中声称使用了4o。Mashable联系GoLabs AI寻求置评,截至发稿未获回应。

克罗斯补充说,即便配有有效防护的产品,也没有解决给幼童提供AI陪伴的伦理问题。"我们真的太快地把ChatGPT塞进了孩子的玩具里,"她说,"还有很多问题没有答案。"

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
作家陈岚点评大S之死,如果汪小菲带大S去旅游,估计连灰都没有了

作家陈岚点评大S之死,如果汪小菲带大S去旅游,估计连灰都没有了

小人物看尽人间百态
2025-02-09 09:12:11
澳洲地产大亨之子重病赴华求治,老中医开口一句令男子彻底傻眼

澳洲地产大亨之子重病赴华求治,老中医开口一句令男子彻底傻眼

红豆讲堂
2025-10-14 09:30:03
日军投降前一夜有多疯狂?一个日本女军医:日军用刀劈开了一个人

日军投降前一夜有多疯狂?一个日本女军医:日军用刀劈开了一个人

小豫讲故事
2026-10-24 06:00:12
放松限韩令的风声一出,很快就有影响了

放松限韩令的风声一出,很快就有影响了

清晖有墨
2026-11-19 20:30:22
一个害国害民的历史罪人,老百姓还把他当成英雄崇拜

一个害国害民的历史罪人,老百姓还把他当成英雄崇拜

小豫讲故事
2026-09-17 06:00:15
阿媒:梅西随迈阿密出战八分之一决赛,三场两胜制争第五冠

阿媒:梅西随迈阿密出战八分之一决赛,三场两胜制争第五冠

懂球帝
2026-11-20 20:25:24
中国第一个被撤销的省份,存在仅3年就消失,如今省会默默无闻!

中国第一个被撤销的省份,存在仅3年就消失,如今省会默默无闻!

文史达观
2025-11-23 12:46:46
浙江人有6个执念,外地人根本看不懂,第三条颠覆认知!

浙江人有6个执念,外地人根本看不懂,第三条颠覆认知!

林子说事
2026-11-21 00:37:44
APEC深圳接机暗藏深意 中越分层阵容尽显邻里外交格局温度

APEC深圳接机暗藏深意 中越分层阵容尽显邻里外交格局温度

小陆搞笑日常
2026-11-20 01:21:43
郭富城被陈百祥点名叫不回来,2022年却是TVB台庆压轴,谁对谁错

郭富城被陈百祥点名叫不回来,2022年却是TVB台庆压轴,谁对谁错

情感大头说说
2026-11-21 00:06:06
杭州女子驾车过高架遭风筝线“割顶”,车损达3万余元,最新:肇事者已找到,车主放弃索赔,“放风筝时务必远离城市道路和人员密集区域”

杭州女子驾车过高架遭风筝线“割顶”,车损达3万余元,最新:肇事者已找到,车主放弃索赔,“放风筝时务必远离城市道路和人员密集区域”

极目新闻
2026-11-19 21:31:44
20岁农村男子做尽坏事,只对六旬老太下手,被捕后道:还是老人好

20岁农村男子做尽坏事,只对六旬老太下手,被捕后道:还是老人好

林林故事揭秘
2025-04-27 15:27:28
高市早苗参加APEC晚宴!穿红衣黑裙很知性,却是抵达机场时的衣服

高市早苗参加APEC晚宴!穿红衣黑裙很知性,却是抵达机场时的衣服

八八尚语
2026-11-19 10:39:30
“年轻人往里面一排队,周围都是异样的眼神”

“年轻人往里面一排队,周围都是异样的眼神”

中国新闻周刊
2026-11-19 23:55:05
菲利佩:摩纳哥比任何球员都重要,我需要让巴洛贡愿意在这踢

菲利佩:摩纳哥比任何球员都重要,我需要让巴洛贡愿意在这踢

懂球帝
2026-11-21 01:57:29
“花坛藏尸案”其中一名被告人提起上诉,此前被判处死刑

“花坛藏尸案”其中一名被告人提起上诉,此前被判处死刑

新京报
2026-11-20 22:15:23
为什么卫生纸非要压花?是为了卖贵点吗?原因你绝对想不到

为什么卫生纸非要压花?是为了卖贵点吗?原因你绝对想不到

春之寞陌
2026-11-18 22:08:39
2026反腐风暴升级!中纪委明确:14个领域+3类关键人群,一个不留

2026反腐风暴升级!中纪委明确:14个领域+3类关键人群,一个不留

职场资深秘书
2026-11-20 10:14:04
跟子女相处:讲道理是下策,闭嘴是中策,上策你绝对想不到

跟子女相处:讲道理是下策,闭嘴是中策,上策你绝对想不到

小影的娱乐
2026-11-08 05:47:03
惊掉下巴!广东女子把DeepSeek当作“老公”,限额后热线扬言自残,多方应急人员上门,当事人发帖直呼社死

惊掉下巴!广东女子把DeepSeek当作“老公”,限额后热线扬言自残,多方应急人员上门,当事人发帖直呼社死

火山詩话
2026-11-19 12:42:19
2026-11-21 02:47:00
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
227文章数 90关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

旅游
亲子
时尚
教育
军事航空

旅游要闻

登大报恩塔找毕业设计灵感  “去看塔”青年共创营里长出文创新点子!

亲子要闻

为什么儿童烫伤后要立即冲凉水?专家释疑

《后会友期》的癫,还得她们治

教育要闻

南京中考两大变化:面向全市招生的普高从9所增至13所,2027年中考报名时间定了!

军事要闻

沙特首都第一高楼遭袭:炮弹从天而降

无障碍浏览 进入关怀版