北京
来源：中国消费者协会
中国消费者协会网站25日发文提醒，人工智能服务非万能，消费使用需谨防误导。
中消协称，目前，以大语言模型为核心的生成式人工智能技术正加速融入消费生活各类场景。人工智能在提升消费便利和服务效率的同时，因信息生成具有一定不确定性，也可能出现信息不准确、表述不严谨、承诺与实际情况不一致等问题。例如，提供与实际不符的费率信息、作出难以兑现的赔付表述、提供片面或欠审慎的法律建议等，可能影响消费者判断和选择，甚至造成经济损失。
中消协指出，根据相关舆情和全国消协组织近期接收的相关投诉情况，人工智能服务引发的消费问题，在不同应用场景下具有不同特点。消费者日常接触的人工智能大体可分为两类：一类是面向公众的通用生成式人工智能服务，主要根据公开信息、模型训练数据和用户提问生成回答，一般不代表具体经营者的官方意见；另一类是经营者部署使用的人工智能客服工具，直接参与商品介绍、费用说明、活动解释、售后处理等经营服务环节。
一、通用生成式人工智能：应明确参考属性，防止误导消费决策
面向公众的通用生成式人工智能服务并非特定经营者的代言主体，其生成内容一般不能直接视为平台或商家的正式承诺，也不能替代合同约定及权威机构意见，主要发挥信息辅助和参考作用。实践中，一些通用生成式人工智能在消费咨询和维权辅助过程中，可能出现对消费者遭受的损失作出缺乏依据的兜底承诺，对诉讼结果作出过度确定性判断、提供错误的诉讼管辖等法律指引，甚至生成并不存在的款项缴存、案件办理等虚假信息。如果消费者对上述生成内容缺乏必要辨别，未通过经营者官方渠道、合同文本或者有关权威渠道进一步核实，可能据此作出错误的退费、维权、诉讼等决定，不仅影响正常消费决策和依法维权，还可能造成经济损失。《生成式人工智能服务管理暂行办法》明确规定，人工智能服务提供者应基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术。
中国消费者协会建议，面向公众的通用生成式人工智能服务提供者进一步强化重点场景风险提示和信息质量管理。在涉及金融理财、生活服务、维权决策等与消费者重要权益密切相关的场景中，应通过适当方式提示人工智能生成内容的局限性，提醒消费者对重要信息进一步核实；同时，持续优化模型准确性，完善内容审核、风险预警和纠错机制，提升答复质量，尽可能减少错误信息和容易引发误解的内容，降低消费者因过度依赖人工智能生成信息而遭受损失的风险。
二、经营者部署的人工智能客服：不能因技术介入弱化经营者责任
经营者自行部署的人工智能客服工具，是其经营服务链条的组成部分。实践中，一些人工智能客服可能出现价格费用说明与实际不一致、优惠活动规则解释不准确、重要限制条件提示不足等问题；在发生争议后，个别经营者还可能以“人工智能自动生成”“系统自动回复”等为由，与相关答复进行责任切割，逃避应承担的责任。上述问题容易使消费者对交易价格、费用构成和售后服务等产生错误认识，影响消费者的知情权和公平交易权。《消费者权益保护法》规定，消费者享有知悉其购买、使用的商品或者接受的服务的真实情况的权利。经营者对消费者就其提供的商品或者服务的质量和使用方法等问题提出的询问，应当作出真实、明确的答复。
中国消费者协会敦促部署人工智能客服工具的经营者加强审核和管理，确保人工智能客服提供的信息与商品服务实际情况、价格费用、活动规则、合同约定和售后政策保持一致，并提供便捷有效的人工客服和纠纷解决渠道。经营者利用人工智能提高经营服务效率的同时，应建立相应的责任承接机制；对于人工智能客服在经营服务过程中向消费者作出的涉及价格、费用、售后等重要答复，不能仅以“算法自动生成”等理由简单免责，更不能通过相关声明不合理减轻或者免除依法应承担的责任。
中国消费者协会呼吁有关部门进一步完善人工智能在消费领域应用的相关规范，结合不同服务类型和应用场景，进一步明晰服务提供者、经营者等主体的责任边界和治理要求，推动形成权责清晰、规范有序的人工智能消费服务环境。同时提醒广大消费者理性认识通用生成式人工智能的信息辅助和参考属性，对涉及价格费用、合同条款、售后服务、法律责任等重要消费信息，不宜仅依据人工智能生成内容作出决定，应通过经营者官方渠道、合同文本、监管部门及其他权威渠道进行核实确认。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
