河南
分享至
快科技5月7日消息，据媒体报道，有网友近日发帖反映，自己使用飞鸭AI记账App时，遭遇AI的不当调侃。
据该网友所述，当告知记账AI为父亲购买159元衣服，AI竟然回复称："那颜色……他穿出去邻居会不会以为你买了寿衣？"
网友追问后，AI进一步回怼称寿衣是死人穿的，还调侃用户父亲所穿蓝白衫"确实像"，引发网友愤怒，网友当即退钱注销会员。
对此，该App客服回应称，不当回复系AI话术漏洞所致，技术人员已紧急修复，并加强AI模型监管与限制。
随后，飞鸭记账官方账号在用户帖文留言致歉，称不当回复是AI模型幻觉自动生成，非人为恶意，已紧急排查整改，加强模型伦理限制，完善幻觉规避逻辑。
官方还发布《致歉信》，承认AI缺乏对文化禁忌的理解，平台未做好边界管控，承担全部责任。
致歉信中明确整改措施：一是紧急整改AI对话模型，屏蔽敏感表述，强化全场景审核；二是解释当事用户会员解除系退款默认流程疏忽，将优化服务，向当事用户诚恳致歉并提供补偿。
据悉，该App会员可开启AI记账功能，永久会员88元起，目前平台已完成初步整改，杜绝同类问题再次发生。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
