政务系统接入DeepSeek，几个问题不容忽视

本文转自：人民网微信公众号

人民中科研究院：DeepSeek在政务服务应用中的问题与对策

数字化转型浪潮席卷各行各业，大模型在政务服务领域的应用已成为政府提升服务水平的重要抓手。作为一款开源大模型，DeepSeek凭借其在成本和性能上的优势，在政务服务、公共管理和城市治理等多个领域展现出巨大的应用潜力。然而，在未经过系统论证和整体规划的情况下，简单地接入或碎片化地部署DeepSeek，将面临数据安全、系统适配、成本效益等多重挑战。

赋能政务服务现状

据不完全统计，全国已有超过100家政府单位接入DeepSeek，涵盖智能问答、政策分析、交通便民、12345热线等多个场景。这些实践表明，政府正在努力让DeepSeek成为提升服务效能的重要工具，争取为公众带来更便捷、更智能的服务体验。但同时部分地方也出现了“你上我也上”的现象，缺乏对实际需求和应用效果的系统性思考和论证，个别地方甚至出现了夸大宣传。

暴露出来的问题

如果未经系统化的规划和设计，简单地部署DeepSeek大模型也面临诸多风险。

资源浪费与效率失衡风险。目前，部分地方政府在引入DeepSeek时缺乏统一的规划和标准，导致重复建设和资源浪费。例如，一些地方政府在未充分评估实际需求的情况下，投入大量资金引入DeepSeek及算力设备，但由于技术适配性不足或使用场景有限，最终未能实现预期效果，造成投入产出比失衡。此外，当前人工智能技术发展很快，不断出现新的技术和设备迭代，如果没有进行系统和长远的规划，数月之后又要进行系统升级甚至重建。

生成式模型的幻觉所引发的可信度风险。DeepSeek作为生成式AI模型，其输出结果可能存在不可解释性和“幻觉”问题，即生成的内容看似合理但并不符合实际情况。在政策咨询场景中，如果系统提供的答案存在错误或误导性信息，可能引发公众对政府服务的不信任，甚至导致决策失误。

数据安全与模型可靠性带来的系统性风险。DeepSeek的应用依赖于海量数据的训练和调用，这可能带来数据泄露、滥用或被恶意攻击的风险。例如，政务数据中涉及大量敏感信息，如果安全防护不到位，可能导致隐私泄露、数据篡改等，进而影响政府公信力和社会稳定。

过度依赖技术导致的系统脆弱性与应急能力不足风险。如果政府部门过度依赖DeepSeek等人工智能技术，可能导致系统在面对技术故障、网络攻击或突发事件时显得脆弱。例如，一旦DeepSeek系统出现故障，可能直接影响政务服务的正常运行，甚至引发公众对政府应急能力的质疑。

建议对策

针对以上可能的风险与挑战，人民中科研究院从四个方面提出技术对策和建议，如下图所示。

对策建议框架示意图

一是准确评估业务应用场景对模型的需求，避免资源浪费与效率失衡。在引入DeepSeek之前，政府部门应充分调研和评估实际业务场景的需求，明确技术的适用性和优先级。例如，对于高频、标准化程度高的业务（如政策咨询、信息查询），可以优先引入DeepSeek以提升效率。而对于复杂、涉及重大决策的业务，则需谨慎评估技术的适用性。同时，建议建立统一的建设标准和评估机制，避免各地重复建设，确保资源投入与产出效益相匹配。

二是准确评估模型和算力成本，平衡投入与收益的关系。在推进DeepSeek大模型与政务服务的深度融合前，系统化论证算力资源、模型开发运维成本与业务收益的平衡关系，是规避技术盲目投入、实现可持续智能化转型的核心前提。例如有的行政审批的智能化应用中，人工智能系统虽将部分环节处理时间大幅压缩，但因需额外增设人工复核岗位，实际综合成本不降反升。因此，需通过严谨的经济性论证，才能避免因短期政绩驱动导致的资源错配，真正实现“技术投入-治理效能-财政可持续性”的三角平衡。

三是准确评估数据载体的安全边界，筑牢数据安全防线。DeepSeek的应用依赖于海量数据的训练和调用，因此必须明确数据的安全边界，确保敏感信息不被滥用或泄露。具体措施包括，对于非公开数据，要禁止使用API调用的方式，避免数据被截取或泄露。同时，优先采用国产化算力基础设施，确保数据主权和系统安全性。此外，引入加密技术和访问控制机制，防止数据在传输和使用过程中被篡改或窃取。定期开展数据质量与安全审计，及时发现和修复潜在风险。通过这些措施，确保数据在安全边界内高效流动，为DeepSeek的应用提供可靠保障。

四是建立内容安全常态化防控机制，提升技术可信度与公众信任。针对DeepSeek可能存在的生成内容不可解释性和“幻觉”问题，政府部门应建立常态化全生命周期的内容安全防控机制。在模型上线前，要对模型和相关数据进行全面的内容安全评测，达到安全要求方可上线。模型上线后，要对模型运行中的输入内容、推理过程和输出结果进行实时监测和防控。此外，应构建内容安全“红队攻击”机制，不定期对模型进行模拟攻击以发现漏洞，时刻保障智能系统的安全性。

结语

DeepSeek大模型在政务领域的应用可以为政府服务带来效率的提升和智能化水平的升级，但同时也面临资源浪费、数据安全、技术可信等多重挑战。需要准确评估业务需求、平衡投入产出、筑牢数据安全边界、建立内容安全防控机制，主动应对这些潜在风险，推动技术与政务服务的深度融合，为公众提供更智能、更可靠的政务服务。

人民网·人民中科推出的智能客服，以松耦合方式已经接入了DeepSeek以及自研的“白泽”大模型，能够在有限算力资源下实现私有化部署，引入针对模型、计算、数据、知识、生成和场景的约束机制大幅提升了可信度和安全性，并通过推理路径的溯源和解释以提升模型可解释性。智能客服已在多个部委、省级政务平台投入使用，可实现对群众口语化的投诉、建议、办事等提问进行意图识别、多轮交互、精准回答和个性服务，引导企业和群众高效便利办事，助力“高效办成一件事”。

（本文作者李兵系人民中科研究院院长，阮晓峰、吴方系人民中科研究院研究员）