广东
分享至
【太平洋科技快讯】2月25日消息，近日，腾讯元宝App因AI异常输出辱骂性内容引发关注。西安一名市民在除夕夜使用该App生成拜年图片时，遭遇AI无故辱骂，原本的祝福标语被替换成低俗辱骂文字。
当事人称，此前从未接触过元宝，除夕当天了解到通过元宝发朋友圈可以变成金色，便带着好奇心下载元宝App进行尝试。
当事人表示，他当时先后向元宝AI下达了约5次生成指令，全程未使用任何违禁词或诱导性表述，仅因对生成效果不满意多次修改。起初AI生成的图片虽不理想但内容正常，直至最后一次修改后，主要元素无任何改变，但图片中原有的“新年快乐，仕途顺遂”祝福标语，被替换成了“你妈个X”四字辱骂文字。
针对此事，元宝官方在相关帖子下作出回应，称非常抱歉给用户带来不好的体验，经核实，该情况是模型处理多轮对话时输出的异常结果导致，目前已紧急校正相关问题并优化体验。元宝团队表示，感谢大家对元宝的监督与建议，再次向用户郑重致歉。
打开APP，阅读体验更佳
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
