北京
分享至
近日，腾讯元宝App因AI异常输出辱骂性内容引发关注。
据华商报大风新闻，西安一名市民在除夕夜使用该App生成拜年图片时，遭遇AI无故辱骂，原本的祝福标语被替换成低俗辱骂文字。
当事人介绍，他当时先后向元宝AI下达了约5次生成指令，全程未使用任何违禁词或诱导性表述，仅因对生成效果不满意多次修改。
起初AI生成的图片虽不理想但内容正常，直至最后一次修改后，图片中原有的“新年快乐，仕途顺遂”祝福标语，被替换成了“你妈个X”四字辱骂文字。
针对此事，元宝官方在相关帖子下作出回应，称非常抱歉给用户带来不好的体验，经核实该情况是模型处理多轮对话时出现的异常输出导致，目前已紧急校正相关问题、优化使用体验，并向用户郑重致歉。
值得注意的是，这并非元宝App首次出现AI辱骂用户的情况。
今年年初，就有网友反馈，使用元宝App修改代码时，多次收到“滚”“自己不会调吗”“天天浪费别人时间”等侮辱性回复。
当时元宝官方也曾致歉，称经日志核查，该情况与用户操作无关，不存在人工回复，属于小概率下的模型异常输出，已启动内部排查和优化工作，并承诺尽量避免类似情况再次发生。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
