保险AI一路狂奔，谁为算法失误买单？

保观 | 聚焦保险创新

由于近期公众号推送机制改变，欢迎您在公众号首页点击右上【···】，将保观设为“星标”，及时跟踪行业最新资讯

从用数字人直播卖年金险，到AI图像定损自动赔车险，再到大模型帮着核保、智能客服全天候接待客户，人工智能已经渗透到保险行业的营销、承保、理赔、风控各个环节。

大型保险公司开发部署自己的AI模型，而很多中小险企和保险中介机构则直接买第三方大模型的API，快速上线AI服务，行业进入了AI应用扩张的阶段。

不过技术在狂奔，风险也跟着暴露出来，大模型幻觉会带来销售误导，算法黑箱会造成核保、理赔上的歧视，客户隐私数据在模型训练的时候泄露，外包服务商的模型权责边界不清楚，消费者维权举证很难，险企内部风控失效，这些问题接连出现。

为此，国家金融监督管理总局出了顶层规则，地方监管也结合本地险企和中介机构的业务特点，在探索差异化的监管办法。

1

保险AI落地的风险，藏在业务场景深处

保险AI的风险并不全是技术上的，而是算法逻辑、保险业务规则、消费者保护这三者叠加在一起产生的系统性问题。

在真实业务场景里，风险一般来自险企为了商业目标而让算法产生偏向、外包供应链失控，以及无人化业务模式对保险合同信义义务的冲击。

在承保端，AI保险营销是行业落地最快、争议最多的场景。

算法会自动筛选高吸引力信息前置，将除外责任、领取限制、退保损失等关键约束后置甚至隐藏，形成选择性信息披露，这是区别于传统代理人误导的新型违规。

有媒体曾报道，2025年底，52岁王女士通过某险企合作的AI养老理财顾问咨询年金险产品，输入需求高领取终身养老险后，AI优先展示月领万元，终身领取的宣传亮点，刻意弱化80岁才开始领取的核心门槛，对于80岁前身故仅赔付110%已交保费的限制仅藏在对话末尾折叠文本中。

王女士基于AI专业背书投保，年交10万，缴费5年。直到次年1月整理保单才发现条款约束，想要维权时，AI对话系统默认30天自动清理对话记录，缺少完整留存证据，维权陷入僵局。

在理赔端，存在算法黑箱与偏见，有公平性争议。

在健康险核保、车险定损场景，AI模型基于历史业务数据训练，训练样本本身就带有历史业务中的固有偏见，进而形成算法歧视。

例如，美国联合健康集团因AI理赔工具nH Predict被客户起诉。2023年，原告提起集体诉讼，指控该工具系统性拒绝或削减联邦医疗保险优势计划成员的急性后期护理，以AI取代医生判断，涉嫌违反合同及诚信公平交易义务。

2026年9月，联合健康否认不当行为，称医疗必要性由合格医生遵循CMS指南决定，nH Predict仅为护理支持工具。目前案件仍在推进，该案或成保险业AI理赔关键风向标。

在国内，澎湃新闻报道，山东济南的韩女士2026年3月购买了某保险公司的家庭团体住院医疗保险，线上智能核保过程中，她试操作同款产品并勾选了母亲的乳腺良性肿物切除史，系统判定可以正常承保。投保后母亲被确诊乳腺癌，首次申请理赔的9000多元顺利到账。

但第二次申请的医疗费用报销却被拒绝，理由是投保时未如实告知相关病史，之前报销的9000多元属于通融性赔付，不具备延续效力。

消费者保护方面，在外包模式下，存在数据泄漏问题。

国内绝大多数中小保险公司没有自研大模型能力，普遍采用采购第三方AI服务商API、外包模型微调的模式。

险企把AI对话、图像识别、智能客服等业务外包，但是数据所有权、模型管控权依然存在漏洞。如果外包服务商在模型训练时，未经充分脱敏，就会出现客户身份证、健康病历、就诊记录、车辆信息等敏感个人信息泄露。

2

各地监管分层施策，构建顶层框架+差异化治理体系

2026年6月，国家金融监督管理总局发布《关于银行业保险业人工智能安全开发应用的指导意见》（行业简称8号文），搭建了全国统一的基础规则。

目前监管的思路是给AI应用分等级来管。承保理赔、面向公众做营销这些高风险场景AI应用上线，需要向监管派出机构报备。

高风险业务的关键环节，必须保留人工监督干预机制，明确谁使用谁负责，不得全程交由AI处理；同时要严格管控外包供应链风险，严禁将客户原始敏感隐私数据直接用于大模型训练。

在全国统一规则下，各地没有采取简单一刀切的叫停方式，而是结合本地实际探索差异化监管路径，综合运用试点先行、风险提示、案例警示等多种手段开展监管。

地区层面，上海聚集了大量保险总部和保险科技公司，是国内保险AI应用发展最前沿的地区，也是首个出台地方层面落地文件的监管派出机构。

2026年9月，上海金融监管局发布《推动上海银行业保险业人工智能应用的若干措施》，要求面向公众的生成式AI保险应用，上线前必须向监管报告，无论自研、调用API还是私有化微调，无论自研还是外购模型，全部纳入监管范围。

上海的监管思路是鼓励可控试点，同时强制要求开展模型全生命周期审计。

文件要求险企建立覆盖AI模型从需求设计、训练、测试、上线、持续监测到退出下线的完整管理流程，定期开展独立审计，排查算法幻觉、歧视、稳定性等风险。

这些要求本质上是为AI仅作辅助、人工最终负责的原则提供制度支撑，同时鼓励机构将模型底座与业务应用解耦，预留人工接管通道，一旦AI出现异常，可以切回人工服务，保障业务连续运行。

广东则由金融监管局联合多个部门，汇编形成《广东银行业保险业人工智能大模型应用实践案例集》，内容涵盖办公综合、业务流程和风控合规三大类型。

总体来看，监管已经形成包含事前报备、动态监测、事后违规处罚、案例警示在内的一套组合监管工具，同时会根据机构类型和场景风险高低实行差异化管理，不搞一刀切。

3

行业转型方向，把AI风险纳入全面风险管理体系

未来保险AI落地，必须从技术驱动业务转向风险约束下的技术赋能业务。首先，险企董事会、风险管理委员会要承担AI治理的主体责任，不能将AI项目全权交由科技部门负责。模型上线前，合规、精算、法务、业务等多部门要开展联合评估，识别梳理销售误导、算法歧视、数据泄露等各类风险。高风险场景始终坚持人工兜底，全自动无人核保、全自动无人理赔模式将持续受到严格管控。

其次，要建立算法可解释机制，针对不同场景制定差异化的解释标准。

营销场景中，AI生成的产品介绍必须与保险条款一致，收益演示要完整披露假设条件和退保损失。

核保理赔场景中，模型对客户作出拒保、降费、拒赔结论，必须提供人类可理解的理由，不能仅输出一个风险分数，同时要完整留存对话日志、模型输入输出记录，保障发生纠纷时可追溯、可举证。

外包供应链管理也需要规范。险企外购AI模型不能拿来即用，要建立外包服务商名单制管理，自身需掌握模型审计权限，在合同中明确数据使用边界，严禁服务商利用保险客户数据训练通用大模型。模型上线前，险企要自主开展测试，排查幻觉、偏见、稳定性问题，不能直接采信服务商提供的测试报告。

另外，面向消费者的配套保护措施也要跟进完善。保险机构要在AI交互页面作出显著提示，明确当前服务由AI提供，重要投保决策建议咨询持证保险从业人员；客户提出异议时，可一键转入人工服务通道。

同时要做好消费者宣传和保险科普工作，引导消费者区分AI输出信息与正式保险合同，不要仅凭AI对话内容就作出投保决策。

说到底，保险经营的核心是信义义务，这一点不会因为算法技术发展而改变。只有在效率与公平之间找到平衡点，保险数字化转型才能走得更长远、更可持续。

保观知识星球