北京
咨询：
当前我们推进AI赋能政务大厅，一方面想依靠AI提质增效，但又担忧大模型幻觉引发行政纠纷；该如何划定容错边界，保证AI只是辅助手段，不越权、不出错？
新广专家答疑
平衡“AI+政务”的实效与风险，关键在于坚守“辅助型”定位、构建“人机协同”闭环、划定“容错边界”。以下从制度设计、技术防控、责任划分三个维度给出建议：
一、制度层面：明确AI“辅助型”定位，划定权力边界
核心是落实“人类最终决定”原则。根据中央网信办、国家发展改革委联合印发的《政务领域人工智能大模型部署应用指引》（以下简称《指引》），政务大模型必须定位为“辅助型”工具，不得替代公务员作出最终行政决定。所有AI输出结果须经人工确认后方可生效，确保行政行为的合法性与正当性。
按风险等级分类分级管控。参考北京师范大学法学院发布的《政府应用人工智能技术的指南》的做法，将AI应用场景划分为常规、敏感、越界三类，分别设定不同的审核强度。低风险场景（如文书格式校对）可适度放宽，高风险场景（如行政处罚建议、资质审批）必须实行多级人工复核。
在应用界面设置显著风险提示。《指引》明确要求，应在AI应用界面显著位置告知用户大模型服务的局限性，做好输出内容标识，避免公众误将AI答复等同于政府正式答复。
二、技术层面：构建“事前—事中—事后”全链条防控体系
事前：源头管控，打造可信知识库。大模型幻觉的核心成因是训练数据质量不足。应构建客观反映政策法规、业务流程的高质量政务数据集和知识库，确保数据源权威、准确、可追溯。据行业研究显示，训练数据中仅0.01%的虚假文本即可使模型有害输出增加11.2%，数据质量至关重要。
事中：多重校验，防范幻觉输出。结合场景特点，合理采用人工审核、生成内容实时风控、多模型交叉校验等措施。例如，吉林民政部门已构建“AI智能辅助+人工专业终审”的双重处理模式，AI负责初筛与标准化响应，人工承担最终决策责任。
事后：全程留痕，建立纠错闭环。建立问题台账管理机制，对AI输出错误制定整改方案，明确整改时限与责任人，整改完成后开展效果验证。同时收集用户反馈，驱动模型持续迭代优化。
三、责任层面：厘清三方责任，确保"权责清晰、追责有据"
政府部门（主体责任）。承担统筹规划、合规管理、数据安全、应急处置等主体责任，依法履行算法备案和安全评估义务，遵守《生成式人工智能服务管理暂行办法》等相关规定。
技术服务商（支撑责任）。确保模型技术安全、算法透明，不得擅自采集或泄露政务数据，配合开展安全评估和合规审查，及时修复技术漏洞。
使用人员（直接责任）。对AI输出内容进行人工审核把关，严格遵守《中华人民共和国保守国家秘密法》等规定，不得越权操作或向AI输入涉密信息。
四、容错边界：明确“可为”与“不可为”的红线
平衡实效与风险的核心逻辑是：技术上充分预判幻觉风险，制度上预设兜底机制，责任上确保每一次AI辅助行为都有“人”来最终负责。唯有如此，才能在释放AI效能的同时，守住依法行政的底线。
以上解答参考了《政务领域人工智能大模型部署应用指引》（中央网信办、国家发展改革委，2025年）、《生成式人工智能服务管理暂行办法》（国家网信办等七部门，2023年）及国内多地政务AI落地实践，基于现行政策法规整理，供贵单位在制度设计与场景落地中参考，具体应用请结合本单位实际并咨询法务部门意见。
本期专家重点解读政务大模型风控、人机协同机制，针对政务热线高频咨询场景，新广视通科技集团研发政务垂直大模型【AI 客服】完美匹配政策合规要求。适配政务大厅、人社、市监、税务等各类热线场景
系统搭建全库前置风控体系，所有 AI 应答内容须经人工审核方可入库，同步部署敏感关键词实时拦截机制，同步提供权威人工咨询渠道，严格限定作答边界、杜绝无关内容输出；依托标准化训练流程与常态化管理制度，从源头规避 AI 答复失误风险。7×24 小时政务咨询值守，最快两周上线，同时开通反馈通道收集信息偏差问题，持续迭代优化知识库，不断提升群众交互体验。
如需了解系统演示、本地化改造方案、落地报价，可后台留言对接专属政务技术专家。
来源：新广视通科技集团
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
