齐向东：大模型时代需做好“三个更加关注”和“三个必然推动”

3月27日，2025BCS政企数字化转型及数据安全专题研讨会在武汉举行。湖北省人民政府副省长陈平，中国工程院院士方滨兴、徐卫林，中国互联网协会专家咨询委员会常务副主任、工业和信息化部原总工程师赵志国，数据空间技术与系统全国重点实验室学术委员会副主任陆志鹏，武汉大学校党委常委、副校长陆伟，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东，国家重大攻关项目负责人贾焰，江西省人民政府副秘书长李光东，湖北省经济和信息化厅副厅长吕晓华，河南省数据局党组书记、局长郑华卿，武汉市科技创新局局长董丹红，澳门科学馆馆长邵汉彬，华为云计算技术有限公司安全领域总裁左文树等政产研学用领域的领导嘉宾，以及大型单位、高校信息化相关部门负责领导出席，围绕“人工智能+安全：数智驱动转型 安全赋能未来”主题进行深入交流。

齐向东在致辞时提出，在大模型时代，数据安全不是选择题，而是必答题。只有做好“三个更加关注”和“三个必然推动”，才能为政企数字化转型保驾护航。

人工智能成为政企数字化转型的必答题

随着DeepSeek等大模型的爆火，人工智能技术已经成为政企单位不可忽视的重要力量。全国20多个城市已陆续在政务系统中接入大模型，包括三大运营商、“三桶油”在内的10多家央企也已通过多种方式与DeepSeek展开合作，探索如何利用AI提升业务效率和服务质量。据IDC的《2025年大模型应用落地白皮书》预测，未来三年内，64%的企业在人工智能领域的投资将增加10%到30%。这充分说明了政企单位对人工智能技术的重视和投入。面对这样的发展趋势，企业和组织需要更加重视技术创新，积极探索适合自身发展的数字化转型路径。

齐向东强调，在享受AI带来的巨大红利的同时，我们也必须清醒地认识到，新兴技术的应用往往伴随着新的风险和挑战。特别是在数据处理和管理方面，任何疏忽都可能导致严重的后果。因此，如何平衡技术创新与风险管理成为当前亟待解决的问题。

“三个更加关注”筑牢安全防线

针对大模型时代的数据安全挑战，齐向东提出了“三个更加关注”的观点。

首先，在人工智能垂直应用场景更加需要关注“小数据”的安全问题。与传统的大数据相比，小数据经过标注、清洗和学习后，其价值被充分激发，成为企业的重要资产，一旦泄露将对企业造成致命打击。

其次，在“小数据”安全中需要更加关注内鬼问题。内部员工对组织情况了如指掌，访问权限高，往往能合法绕过安全措施而不触发风险预警。近年来，内部员工给数据投毒、待离职员工偷数据等安全事件层出不穷，给政企单位的数据安全带来了严重威胁。特别是在大模型垂直应用爆发的背景下，数据管理员、数据标注员、算法工程师和模型运维工程师等关键岗位人员的数据访问权限更高，一旦权限被滥用或身份被盗取，后果将不堪设想。

最后，在内鬼中应该更加关注外包问题。外包人员虽然游离于政企单位的直接管控体系之外，但出于业务需要，其数据接触权限也很大。由于监管难度高且更容易受到利益诱惑，外包人员往往容易利用工作便利做出危害数据安全的行为。

“三个必然推动”引领安全新趋势

在提出安全挑战的同时，齐向东也展望了数据安全领域的发展趋势，概括为“三个必然推动”。

第一个是必然推动数据安全爆发。随着高价值的“小数据”集中用于投喂企业的人工智能大模型，数据重要性显著提高，数据拥有者对数据安全的重视程度也将随之提高，这将推动数据安全市场的快速发展和壮大。

第二是必然推动零信任架构普及。大模型在训练和应用过程中会引入更加复杂的人员角色，这要求政企单位加快推动零信任架构的普及和应用。通过对特殊身份人员以及集权和高危终端进行增强式、动态调整的访问权限管控，可以第一时间阻断风险终端和用户对资源的恶意访问，保障正常合法访问和业务平稳运行。

第三是必然推动安全空间落地。齐向东提出，在大模型垂直领域落地的许多环节都需要外包人员参与的情况下，需要对业务场景下的数据访问行为进行更加精细化的管控。通过安全空间与企业内部系统进行环境隔离，可以在人员不可信、终端不可信的前提下，允许核心数据被可信查看、加工和处理，但不能向外流转，从而有效避免数据被窃取的风险。

“数据是人工智能的核心，数据安全是人工智能大模型应用的核心关切。”齐向东表示，在大模型时代，数据安全不是选择题，而是必答题。奇安信也将积极与各方携手并肩，共同构筑一条可靠的安全防线。

据悉，2025BCS政企数字化转型及数据安全专题研讨会由武汉大学、鹏程实验室、BCS组委会联合主办，奇安信集团、武汉大学国家网络安全学院、四川亿览态势科技有限公司承办。会议通过“一主论坛+三平行论坛”的形式，邀请来自政产学研用领域的各方代表，围绕人工智能技术发展趋势、产业应用落地的热点话题展开深入探讨。

本文源自：金融界