福建
你被AI（人工智能）“坑”过吗？今年5月，“按AI建议退改签机票后亏损600元”话题曾冲上热搜，引发人们对AI是否靠谱以及如何担责的热议。随着生成式人工智能加速融入消费生活各类场景，在提升消费便利和服务效率的同时，类似的争议和纠纷频发。8月25日，中消协发布观点：人工智能服务非万能，消费使用需谨防误导，并梳理两类人工智能消费服务风险提醒消费者注意。
图源 中消协网站
通用AI涉及金融理财等场景应强化提示
中消协介绍，消费者日常接触的人工智能大体可分为两类。
第一类是面向公众的通用生成式人工智能服务，主要根据公开信息、模型训练数据和用户提问生成回答，一般不代表具体经营者的官方意见。对这类AI，消费者应明确参考属性，防止误导消费决策。
实践中，这类的一些AI在消费咨询和维权辅助过程中，可能出现对消费者遭受的损失作出缺乏依据的兜底承诺，对诉讼结果作出过度确定性判断，提供错误的诉讼管辖等法律指引，甚至生成并不存在的款项缴存、案件办理等虚假信息。
如果消费者对上述生成内容缺乏必要辨别，未通过经营者官方渠道、合同文本或者有关权威渠道进一步核实，可能据此作出错误的退费、维权、诉讼等决定，不仅影响正常消费决策和依法维权，还可能造成经济损失。
中消协建议，这类AI服务的提供者应进一步强化重点场景风险提示和信息质量管理。在涉及金融理财、生活服务、维权决策等与消费者重要权益密切相关的场景中，应通过适当方式提示人工智能生成内容的局限性，提醒消费者对重要信息进一步核实；同时，持续优化模型准确性，完善内容审核、风险预警和纠错机制，提升答复质量。
经营者部署的AI客服不能逃避责任
图源 视觉中国
第二类，是经营者部署使用的人工智能客服工具，直接参与商品介绍、费用说明、活动解释、售后处理等经营服务环节。这类经营者部署的AI客服，不能因技术介入弱化经营者责任。
中消协表示，经营者自行部署的AI客服工具，是其经营服务链条的组成部分。实践中，一些AI客服可能出现价格费用说明与实际不一致、优惠活动规则解释不准确、重要限制条件提示不足等问题；在发生争议后，个别经营者还可能以“人工智能自动生成”“系统自动回复”等为由，与相关答复进行责任切割，逃避应承担的责任。这影响消费者的知情权和公平交易权。
中消协敦促部署AI客服工具的经营者加强审核和管理，确保其提供的信息与商品服务实际情况、价格费用、活动规则、合同约定和售后政策保持一致，并提供便捷有效的人工客服和纠纷解决渠道。经营者利用AI提高经营服务效率的同时，应建立相应的责任承接机制；对于AI客服在经营服务过程中向消费者作出的涉及价格、费用、售后等重要答复，不能仅以“算法自动生成”等理由简单免责，更不能通过相关声明不合理减轻或者免除依法应承担的责任。
扬子晚报/紫牛新闻记者 马燕
校对 陶善工
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
