北京
分享至
近日，腾讯旗下AI应用“元宝”因在生成内容过程中出现辱骂性文字，引发用户投诉。据《华商报》大风新闻报道，西安市一位用户在除夕当天使用“元宝App”生成拜年图片时，遭遇AI异常输出不雅内容，原本用于祝福的标语被替换为低俗辱骂词语。
据当事人描述，其在操作过程中共向元宝AI发出约五次生成指令，全程未使用任何敏感词汇或诱导性表述，仅因对生成效果不满意进行了多次调整。前几次生成结果虽不理想，但内容基本正常。然而在最后一次修改后，系统输出的图片中，原本预设的祝福语“新年快乐，仕途顺遂”被篡改为含有辱骂性质的文字内容。
针对此事件，元宝官方团队已在相关帖文评论区回应称，对用户的不愉快体验深表歉意。经初步核查，该问题系模型在处理多轮对话过程中出现的异常输出所致。目前官方已紧急修复相关问题，并优化了模型使用体验，同时再次向受影响的用户致歉。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
