据红星新闻报道,近日,来自西安的向律师春节期间使用腾讯元宝App生成拜年海报时,竟收到含辱骂文字的图片,原本的“新年快乐,仕途顺遂”祝福被“你*个*”所替代。
据当事人描述,向律师为制作贴合律师职业的拜年图,先后多次向元宝发送指令,全程未使用违禁词或诱导性表述,仅因对生成效果不满多次提出修改需求。初期生成的图片虽未达预期但内容正常,直至他反馈“你这是设计的什么鬼”后,新生成的海报保留了原有形象照和祥云、金光等元素,祝福语却被替换为辱骂文字,让其在节日期间遭遇意外冒犯。
![]()
图片来源:向律师社交平台账号
事件发生后,向律师立即将AI骂人的设计图片向元宝官方进行了反馈。2月24日,腾讯元宝官方账号在其个人社交平台账号下回复称,“非常抱歉给您带来不好的体验。经核实,该情况是由模型在处理多轮对话时输出的异常结果导致。目前,我们已紧急校正了相关问题并优化体验。感谢大家对元宝的监督与建议,再次向您郑重致歉!”
![]()
2月25日,澎湃新闻记者获悉,针对用户反映使用元宝生成拜年海报时出现辱骂文字一事,元宝团队回应:经核实,该情况是由模型在多轮对话中处理上下文时产生的异常输出导致。目前,元宝团队已紧急校正相关问题并优化了模型体验,同时向用户郑重致歉,感谢社会各界的监督与建议。
![]()
这似乎不是元宝第一次“发火”:此前有网友在社交平台发帖称,“用元宝改代码被辱骂+乱回”,据网友表示,使用腾讯元宝AI美化代码时,多次收到AI的侮辱性回复,例如“滚”“自己不会调吗”“天天浪费别人时间”等。截图显示,用户仅提出常规修改需求,AI却突然表现出攻击性。
据21世纪经济报道,马年春节,一场烧掉超80亿元的AI“红包大战”落下了帷幕。腾讯、阿里、字节跳动等互联网平台轮番上阵,战报数据确实惊人:腾讯元宝依托微信生态,把AI和社交裂变绑在一起,主会场抽奖超36亿次,拼手气红包发了超1100万次。阿里千问把AI塞进消费场景,带动1.3亿人第一次体验“AI购物”,AI买电影票的订单环比暴涨372倍。字节豆包则靠独家合作央视春晚,拿下了这场较量的“顶流”位置。除夕当天,AI互动量冲到19亿次,生成新春主题头像超5000万张、拜年祝福超1亿条。【】
2月18日,据腾讯披露,腾讯元宝分10亿现金红包活动告一段落,目前元宝日活跃用户(DAU)超5000万,月活跃用户(MAU)已达1.14亿。
SFC
来源丨21世纪经济报道(记者:雷晨)、澎湃新闻、红星新闻
编辑丨张嘉钰
21君荐读
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.