北京
来源：滚动播报
（来源：上观新闻）
公职人员使用AI大模型的风险挑战及对策建议
李 静
当前，AI（人工智能）大模型已深度融入公职人员文稿撰写、数据梳理、决策参考等日常办公场景，成为提升工作效能的重要工具。然而，技术赋能的背后潜藏着能力退化、安全隐患、意识形态冲击等三重风险，亟须对相关风险挑战作出系统性分析、提出针对性对策，确保AI大模型赋能而不失控、不失密。
风险挑战
思维“外包”导致主体性让渡与能力退化。部分公职人员尤其是青年群体中存在写材料先由AI大模型生成初稿、再略作修改的现象。长此以往，必然导致自主思考能力退化。麻省理工学院媒体实验室的研究显示，使用AI大模型完成任务的受试者，其大脑与创造力、工作记忆相关的脑区连接均呈下降状态。最需警惕的是决策平庸化，AI大模型算法倾向于生成标准化内容，决策者会因依赖AI大模型而失去独特视角，抑制了独到见解的产生。
信息投喂引发数据叠加与隐私泄露。AI大模型的信息输出以向使用者提供“投喂”资料为前提。单条信息可能不涉密，但不同地区、部门的信息叠加后可能形成敏感数据链，引发安全隐患甚至泄密。同时，AI大模型具备全面复制输入内容的能力，每次人机协同操作都参与了大模型训练，留存的数据可能被迁移到其他生成内容中，导致信息泄露。
算法逻辑带来认知偏差与意识形态风险。AI大模型不仅改变“写什么”“怎么写”，更核心的是以隐蔽方式重塑思维结构，改变“怎么想”这一触及意识形态的底层逻辑。有些国家已将AI大模型用于“认知战”，通过生成虚假政策解读、误导性舆论，影响公职人员决策及公共舆论走向。
对策建议
确保使用者主体性地位，维持AI大模型的工具属性。公职人员必须明确“主体—工具”关系，清醒认识到人是使用主体，AI大模型仅为辅助工具。对于政策决策、调查研究、意识形态等核心任务，必须由人作出判断，绝不能“外包”给AI。要警惕重复性生成文本累积的“催眠效应”，避免被海量内容压制思维；要保持自律，时常开展无AI训练，强化自主思考。同时，将AI大模型使用规范与安全防范纳入培养体系，重点培养对AI大模型生成内容的识别、判断、筛选能力。
明确使用边界，规范任务范畴。必须明确不能使用AI大模型的场景：事关战略规划、重大决策类任务，涉及意识形态、涉密文件等关乎国家安全的任务，以及包含重要数据信息等内容的资料，其人机交互边界要特别厘清。对于可使用AI大模型的工作，如常规文本初稿撰写、普通数据整理等场景，可设定审核机制，通过人工修改、交叉校对、部门审核等流程，确保内容符合规范。
加强流程管理，完善制度保障。在单位层面，加强提醒教育，普及风险防范常识；强化对生成内容的把关，建立审核机制，重点审核真实性和安全合规性。在个人层面，对输入语料、底层逻辑、生成内容取舍要做到心中有数。中长期看，有必要全面审视公职人员使用AI的伦理规范和纪律要求，由职能部门出台相关文件，明确主体责任，整体规范使用行为，筑牢数字时代的安全防线。
（作者为奉贤区委党校副教授）
本文刊于《上海宣传通讯》
2026年第16期“研究与思考”栏目
特别声明：本文经上观新闻客户端的“上观号”入驻单位授权发布，仅代表该入驻单位观点，“上观新闻”仅为信息发布平台，如您认为发布内容侵犯您的相关权益，请联系删除!
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
