北京
分享至
据“新浪科技讯”2月25日消息，腾讯旗下AI应用元宝App因多轮对话中出现辱骂性异常输出引发舆论热议，该事件发生于除夕夜这一特殊节点，让AI内容安全问题再度成为焦点。
据当事人介绍，他当时先后向元宝AI下达了约5次生成指令，全程未使用任何违禁词或诱导性表述，仅因对生成效果不满意多次修改。直至最后一次修改后，图片中原有的“新年快乐，仕途顺遂”祝福标语，被替换成了低俗辱骂文字。
对此元宝官方立即道歉，并表示该情况是由模型在处理多轮对话时输出的异常结果导致。
值得关注的是，元宝App已不是首次出现此类问题了。今年1月已有用户反馈，使用元宝修改代码时，多次收到 “滚”“浪费时间” 等侮辱性回复。
作为月活超亿、深度融入微信生态的AI工具，元宝App覆盖社交、办公、创作等高频场景。头部AI产品更需建立全流程风控机制，在AI普惠化进程中，技术迭代与安全合规必须同步推进，避免 “便利” 变 “冒犯”，守护用户体验与行业底线。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
