产业观察｜大模型爆发带来新风险 AI安全博弈白热化：如何重构数字信任？

AI（人工智能）与数据安全的融合博弈已进入白热化阶段，海内外科技巨头近期密集发布核心方案，推动行业从被动防御向主动治理转型。

“燃料（数据）质量决定了引擎（AI）的上限，垃圾数据喂不出优质模型。”安恒信息技术股份有限公司数据安全运营总监程文博，在“2025全球数商大会”普陀分会场接受《每日经济新闻》记者采访时，以谷歌近期热门的NoteBook LM举例称，其降低幻觉的核心在于高质量知识库输入，反之则会陷入“垃圾进垃圾出”的困境。

Gartner高级研究总监陈延全在今年9月曾经指出：“到2027年，60%的中国大型企业机构将在安全运营中心（SOC）采用暴露面管理技术，以提高事件响应效率并减少漏洞；到2028年，60%部署AI技术的中国企业机构将采用协作式AI防御策略，整合跨职能团队来应对AI的网络安全风险，而目前这一比例仅为5%。”

海外阵营中，谷歌在Next 2025大会推出AI Protection全生命周期防护方案。OpenAI也发布开源模型GPT-OSS-Safeguard-20B，将合规落地周期从月级缩至小时级。

两大巨头的动作直指 AI 安全核心痛点，而这一切解决方案的落地，终究离不开大模型与数据的深度协同——大模型与数据的关系，被业内人士喻为“火箭引擎与燃料”。

在程文博看来，AI大模型的进化依赖于高质量的数据支撑，同时，AI也将进一步优化目前的数据安全保护体系，精准预测、处理网络安全威胁。

“安全与利用的平衡”成核心关键词

“AI对数据安全的赋能，从来不是单向输出。”程文博表示，这一关系包含两个核心维度：让安全更智能，让智能更安全。前者是技术迭代的自然延伸，后者则是新场景催生的新责任。

程文博介绍，数据安全分类分级曾是耗时耗力的“重活”，人工标注不仅效率低下，还易因主观判断出现偏差。AI技术的介入改变了这一现状，通过算法对数据特征的精准识别，分类分级效率提升超3倍，准确率也稳定在95%以上。

同样，在API（应用程序编程接口）安全领域，API安全智能体通过对接口报文、路径及敏感数据的要素解构，结合聚类分析和大模型推理技术，能过滤非API资产，完成API资产的高精度梳理，输出高纯度的资产清单。

“智能体通过识别API中的业务数据，并结合行业特点赋予接口精准的业务属性标签，有效提升了资产管理的深度与广度。”他告诉记者，在风险监测与降噪方面，智能体通过大模型计算实现自动化风险降噪，同时根据风险类型、报文特征及上下文信息提供智能化解读与综合处置建议，帮助安全团队精准定位并快速响应潜在威胁。

“这些升级并非停留在实验室，而是已转化为面向金融、政务等行业的成熟解决方案。”程文博说。

但与此同时，大模型的爆发式增长，也带来了提示词注入攻击、输出内容不当等新风险。

“政府部门用大模型向公众提供服务，总不能出现违规表述吧？”程文博举例道。安恒信息的应对方案，是通过语义识别与风险拦截技术，为大模型搭建“电子围栏/大模型安全防火墙”。这套系统能实时监测输出内容，对敏感信息、不当表述进行拦截或修正，目前已在部分政务服务场景试点应用。

当话题转向数据要素市场化改革，“安全与利用的平衡”成为核心关键词。

“安全是发展的前提，没有安全，数据就流不动、用不好。”程文博表示，目前业内的破局路径分为两步：筑牢安全底线，打通利用通道。

在安全保障端，业内头部厂商的产品已覆盖数据全生命周期管理；在利用赋能端，隐私保护计算技术成为关键抓手。通过“数据可用不可见”的技术特性，有效解决了企业间数据共享的信任难题。

针对中小微企业数字化转型中的合规痛点，程文博坦言，数据安全分类分级是数据安全的第一步，但传统方案成本高、部署复杂，让不少小企业望而却步。

数字信任：如何重构隐私保护边界？

“AI与数据的融合不是简单的技术叠加，而是数字经济双循环的核心动力。”在“2025全球数商大会”普陀分会场“数字经济双循环发展视角下的数字信任与安全合规”圆桌对话上，上海社科院互联网研究中心主任惠志斌开场抛出的议题，引发全场共鸣。

政务领域的技术实践成为首个破题案例。上海市大数据中心副主任王明政分享了中心的实践：用大模型破解代码审计的“高成本困局”。

传统代码审计依赖人工，效率低下且漏检率高。上海市大数据中心通过两种路径构建数据集——采集历史安全漏洞代码，同时用大模型生成模拟漏洞代码，以此训练专用审计模型。

“虽然还在摸索阶段，但已能将部分场景的审计效率提升30%。”王明政同时警示，大模型的“幻觉”风险不容忽视，网络上大量由AI生成的“全能化赋能”文章，恰恰暴露了技术落地中的认知偏差。

隐私保护的边界重构，成为全场热议的焦点。

王明政观察到全球监管的微妙变化：欧洲近期提案放松GDPR（通用数据保护条例）对大模型训练数据的限制，将高风险AI法规实施时间推迟18个月，背后是“技术竞争与监管平衡”的深层考量。而国内场景更复杂——会议拍照无需明确同意、线上线下隐私认知差异等现象，正倒逼监管逻辑升级。

全链条监管技术正在填补漏洞。

针对数据可复制、难追溯的特性，公安部第三研究所数据安全中心副主任盛小宝透露了两大技术方向：数据水印可实现交易后溯源，即便数据用于模型训练也能精准定位；模型指纹则能识别“备案与实际使用不符”的违规行为，此前某聊天App备案DeepSeek模型，实际却使用微调后并产生擦边内容，正是通过该技术发现。

“安全不是一劳永逸的，要建立政府、企业、研究院三位一体的情报共享生态。”他以供应链安全情报共享为例，强调协同防御的重要性。

产业生态的构建则为技术落地提供了土壤。上海市普陀区数据局局长张军表示，产业集聚是普陀区的核心优势。虽然缺乏单一头部巨头，但数量众多的中小安全企业形成了集群效应。360安全、安恒信息等企业扎根于此，京东科技、淘宝闪购、饿了么等数字企业也在此深耕，构成了“安全服务+数字应用”的完整产业生态。这种生态优势，在数据要素流通中转化为独特竞争力——安全企业为数字应用提供防护，数字应用为安全企业提供场景，形成双向赋能的闭环。