北京
分享至
2月25日消息，腾讯旗下AI产品元宝App近日因生成辱骂性内容再度引发争议。
据元宝用户向律师反映，其于除夕夜使用元宝App设计拜年海报时，AI在多轮对话后输出含辱骂文字的图片，将原有祝福语“新年快乐，仕途顺遂”篡改为低俗辱骂信息。据悉，当事人全程未使用违禁或诱导性表述，仅因对生成效果不满多次提出修改要求。
腾讯元宝官方事后在涉事用户社交平台回应称，经核实，该情况是模型处理多轮对话时出现的异常输出，已紧急校正问题并优化体验，向用户郑重致歉。
据了解，这已是元宝短期内第二次被曝出类似问题。今年年初，曾有用户反馈使用该应用优化代码时，收到“滚”等侮辱性回复，当时官方同样解释为“小概率模型异常”并致歉。同类事件重复发生，引发外界对其技术稳定性及内容审核机制的关注。（栎行）
本文来源：网易智能
责任编辑：
李佳_NBJS32032
