北京
春节AI给派发红包，这热乎劲还没过，谁承想，他们开始骂人和不听人指挥擅自删光工作邮件了。这真的让人见识了AI的两面性。有网友开玩笑，AI跟人学坏了。
2月25日，有一名西安的律师被媒体报道称，春节假期里，想用元宝生成个人拜年海报，然而这机器人“一言不合就开骂”。该内容一经发布，迅速冲上热搜。
这位律师回顾称，他看别人的微信朋友圈在除夕夜变成了金色，只要用元宝发布朋友圈就会这样，所以勾起了他尝试的兴趣。下载了元宝App后，他迫不及待地开始体验。接下来出现意想不到的事情。
该律师把自己的个人形象照片发给了元宝，让元宝根据律师行业特点，制作一张拜年海报。刚开始比较正常，元宝迅速给照片加了元素，比如祥云、法律天平、金光等，祝福语是“新年快乐，仕途顺遂”。
但律师觉得不满意，沟通了几轮下来，律师对元宝说“你这是设计的什么鬼”。最新一版海报出来后，上一张的所有元素都保留着，只是那句新年快乐的祝福语却变成了“你*个*”。
“你个机器人怎么还骂人？！”律师觉得来气，就向元宝官方进行了反馈。2月24日，元宝官方对律师进行了回复并致歉。
元宝为何一言不合就“开骂”？腾讯方面对外回复称，经核实，该情况是由模型在处理多轮对话时输出的异常结果导致。目前，元宝团队已紧急校正了相关问题并优化体验。元宝团队表示，感谢大家对元宝的监督与建议，再次向用户郑重致歉。
这年头，AI跟人学坏了，不仅骂人，还失控不听指挥把一AI安全总监邮箱里200多封邮件一删而空。
2月23日，Meta超级智能实验室AI对齐与安全总监Summer Yue，遭遇了那场始料未及的“数字惊魂”——她部署的AI智能体OpenClaw，在她连续三次叫停的情况下，依然以极快速度删除了她工作邮箱中的200多封邮件。
事后她在社交平台写道：“没有什么比命令OpenClaw‘确认后再操作’，然后眼睁睁看它无视指令疯狂删除更令人崩溃的了。我根本无法在手机上阻止它，只能像拆炸弹一样冲到Mac Mini前切断电源。”
AI作为一个新事物，正在千行百业以及C端广大用户各种场景当中落地，上述情形是不可避免的。一方面让人感受到AI的不可控风险，引发对AI技术应用落地当中的安全性思考。
当AI智能体从“回答问题”进化到“替你行动”，自主性与可控性之间的张力正变得愈发尖锐。
元宝骂人、OpenClaw的“邮箱惨案”等事件，像一面镜子，照出了AI智能体时代的核心困境：我们渴望AI越来越自主，又希望它绝对服从。这个两难，或许正是整个行业必须回答的终极问题。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
