习惯于接受大模型给出的“标准答案”，会有怎样的后果？

近期，随着国产人工智能大模型的崛起，多地政府积极拥抱新技术，部署本地政务大模型，有望在政策解读、民意识别、公文处理和知识库构建等场景推广使用。传统政务信息处理模式迎来新的变革契机。高质量推动政务大模型应用，既能为大模型的政务信息处理能力提升创造真实场景支撑，也能为人类独特能力的发展提供新的契机。

大模型赋能国家信息能力

政府在依法履行管理和服务职能的过程中，会产生大量政务信息。这些信息蕴含着巨大的治理价值，对其进行收集、分析和挖掘，可以有效解决国家治理中的信息不对称问题，提升政府跨层级、跨部门和跨领域的协同治理效能，是国家信息能力的重要体现。

然而，传统的政务信息处理方式主要依赖于人工检索和阅读分析。由于人类的信息处理能力有限，这种方式在信息获取、内容解析、推理预测和话语传播等方面都存在明显的短板。基于深度学习的大语言模型，可以通过训练海量文本数据，挖掘自然语言中的深层语义关系和统计规律，据此作出长链推理，支持交互可视化分析。因此，政务大模型的本地部署，有望帮助政府在处理信息时，覆盖面更广、理解力更强、预测性更准、传播性更好。简而言之，就是让政府“看得见”“看得清”“看得远”以及“看得懂”。

大模型赋能的边界和限度

在热切展望之余，我们需要跳出“技术决定论”的范畴，对政务大模型的应用边界保持审慎和清晰的认识。

实际上，人工智能并不是万能的。在信息处理的准确度方面，大模型有时会“编造”信息，输出事实错误、逻辑矛盾或者是过度泛化的无关内容，即“大模型幻觉”。大模型在内容生成时，也可能表现出与特定社会文化和政治理念相关的价值倾向性。这种“大模型偏见”可能会误导管理者对社情民意的理解、把握，从而作出错误的价值判断。

此外，我们还需警惕“大模型依赖”的风险。当个人或组织在信息处理中过度依赖大模型，习惯于接受大模型给出的“标准答案”，而忽视人的独立性思考时，便可能逐渐让渡决策自主权，抑制个体创造力和批判性思维。

需要指出的是，大模型因内部工作机制的复杂性、不透明性和不可解释性，使其在输出“端到端”的结果时，缺少对中间步骤的充分说明，存在一定的不可预测性。这一“黑箱”问题在政务场景下可能带来信任危机、问责模糊和伦理争议等问题。

用好政务大模型的关键，在于找准人类和机器在政务信息处理上的各自优势，遵循人机协同、价值共创的基本原则。一方面，要突破“惯性思维”，充分释放大模型在复杂数据识别与融合分析上的工具价值；另一方面，要锚定“价值标准”，始终坚持人类在信息判断、思想创造和观点思辨上的主体地位。

人机角色分工：人类主导—技术赋能

在政务信息处理中，构建“人类主导、技术赋能”的应用范式，需要根据具体任务场景，合理划分人机角色，实现高效协作。

1.助力信息获取，让政府真正“看得见”

人类作为“信息输入者”在前，大模型扮演“信息整合者”在后，让政府真正“看得见”。

人类可以结合真实场景的任务需求和经验判断，指定目标数据集，确保信息输入的相关性、准确性和针对性，规避“大模型幻觉”的风险。此外，政务信息中的敏感数据同样需要结合伦理隐私标准来人为筛选，从而为大模型的信息归纳总结设定“防火墙”。在此前提下，大模型则可发挥自身在海量数据读取和自动化归纳上的优势。

2.助力内容解析，让政府真正“看得清”

大模型扮演“内容挖掘者”在前，人类作为“语义解析者”在后，让政府真正“看得清”。

大模型可结合自身在海量数据挖掘上的低成本高性能优势，将非结构化的多模态数据进行结构化转换，通过标准化格式输出，识别多源异构数据的复杂模式和一般规律。例如，大模型在舆情监测中可以从数百万的社交媒体里提取出热点主题和情绪分布。在此基础上，人类则可发挥自身在上下文理解、多义性把握以及价值观判断上的优势，对大模型挖掘的初步内容进行语义解析和价值校准。

3.助力推理预测，让政府真正“看得远”

大模型扮演“逻辑推理者”在前，人类作为“逻辑验证者”在后，让政府真正“看得远”。

大模型通过一系列的迭代升级，已经具备展示思维链、呈现推理路径并自我纠偏的能力。结合在跨领域知识整合上的既有优势，大模型在数学、编程和自然语言等多模态任务中的推理准确性得到了显著提升。基于此，人类可主要负责判断大模型的推理结果是否符合真实政务场景，并结合工作经验，验证其逻辑适用性和预测性，进而通过反馈机制反哺大模型。

4.助力话语传播，让政府真正“看得懂”

大模型扮演“形式优化者”在前，人类作为“传播扩散者”在后，让政府在政民互动中真正“看得懂”。

在话语传播方面，大模型可以根据信息分析结果提供多种可视化图表绘制方案，同时具备创意式写作和情感式表达的能力。通过数据可视化展示社情民意，政府能够以更直观的形式，感受和把握公众诉求。在此基础上，人类则可以通过个性化的内容生成，进一步提升政策传播效果。例如，在政务问答中，政府便可根据大模型对不同提问群体的语言风格进行分析，设计符合受众特点的政策解读和传播内容，实现精准舆论引导。

（作者为复旦大学全球公共政策研究院副教授。本文为作者在“东方青年学人沙龙”第6期研讨活动上的发言）

原标题：习惯于接受大模型给出的“标准答案”，会有怎样的后果？

栏目主编：王珍 文字编辑：王珍 题图来源：上观题图 图片编辑：徐佳敏 编辑邮箱：shhgcsxh@163.com

来源：作者：范梓腾