河南
5月6日，有用户向媒体反映，使用飞鸭AI记账App时，告知记账AI自己为父亲购买159元衣服，AI竟回复称“那颜色……他穿出去邻居会不会以为你买了寿衣？！”该用户追问后，AI回复，称寿衣是死人穿的，还调侃用户父亲所穿蓝白衫“确实像”，引发用户愤怒，当即退钱注销会员。
5月6日，软件客服回应正在新闻，AI回复是随机的，同事在5月5日向技术部门反馈了该问题，已更改相应程序并向该用户退款，不会再出现此类问题。
稍晚些，据扬子晚报报道，该App客服称，不当回复系AI话术漏洞所致，技术人员已紧急修复，并加强AI模型监管与限制。
当日下午，官方发布《致歉信》，承认AI缺乏对文化禁忌的理解，平台未做好边界管控，承担全部责任：一是紧急整改AI对话模型，屏蔽敏感表述，强化全场景审核；二是解释当事用户会员解除系退款默认流程疏忽，将优化服务，向当事用户诚恳致歉并提供补偿。
来源 | 大象新闻综合扬子晚报、正在新闻主编 | 彭丹编辑 | 王婷
象象回馈福利来啦！ 
（大象文创袋）
奖项设置
分享奖：文章分享量前5名
参与方式：1.关注本公众号；2.在活动周期内（每15天一期）为公众号发布的文章点赞（点赞越多，获奖几率越大）；3.分享公众号文章（分享越多，获奖几率越大）。
结果公布及领奖规则：每月的6日及21日，获奖名单将在公众号菜单栏“热门”——“”中公布，中奖者需在48小时内私信联系客服领取，逾期视为放弃。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
