奇安信齐向东：AI大模型普及将推高三大安全风险

本报记者 谭伦 福州报道

数字经济浪潮下，人工智能大模型正以前所未有的速度渗透至千行百业，也带来生产力和创造力的双重爆发。然而，新技术如同“双刃剑”，在释放生产力的同时，其安全风险亦呈指数级增长。

在日前举行的第八届数字中国建设峰会上，奇安信集团董事长齐向东将大模型应用面临的挑战归纳为三重：“小数据”安全危机、业务链式中断风险、决策失准。

对此，会议期间，齐向东在接受《中国经营报》等媒体记者采访时也提出了对策。他指出，唯有抓住“接入放心用”“权限强管控”“严把内容关”“杜绝新隐患”“运营可闭环”五大关键，方能筑牢人工智能安全底线，助力数字经济持续健康发展。

在数字经济时代，数据被喻为“石油”，人工智能则是“发动机”。齐向东指出，过去我们谈论的是“大数据”，它规模庞大却“碎片化、质量参差不齐”，难以直接变现；而在人工智能大模型的驱动下，企业将设计、生产、安装调试等海量信息进行去粗取精、分类标注，形成了高价值的“小数据”。这些“小数据”虽体量小，却是企业核心竞争力的“精华”，一旦“被窃取、泄露或篡改，企业多年积累的优势将瞬间崩塌”。

正因如此，齐向东强调：“‘小数据安全’成为数字经济时代的核心关切。”他警示，各行业在使用大模型时，必须确保对“小数据”的全生命周期管理和防护；任何对“小数据”的非法访问或篡改，都可能引发致命级别的商业或安全危机。

齐向东进一步剖析了大模型落地的第二和第三重挑战：一是“大模型融通百业后‘裸奔’上线，极易引发业务停摆的链式危机”；二是“对AI过度依赖、善恶真伪难辨，若决策失准将触发‘蝴蝶效应’”。

以链式风险为例，峰会当天奇安信资产测绘鹰图平台监测发现，8971台Ollama大模型服务器中，有6449台处于“裸奔”状态——无须认证即可随意调用或删除模型文件，相关业务一旦被攻击，恐将瞬间陷入“牵一发动全身”的停摆危机。

对此，齐向东提出“接入放心用”的理念：通过构建大模型安全“红域”，在数据、算力、平台、应用以及终端与人员等多维度划定专属安全空间，并在每个接入点部署安全空间控制单元，实现多层边界隔离，为大模型落地提供“强基础、控权限、审数据、拦攻击、清风险”的坚实支撑。

在决策失真方面，随着各行各业对AI辅助决策的依赖加深，黑客或内部人员均有可能通过“漏洞利用”“数据投毒”“引入错误信息”等手段，破坏模型输出的真伪性。齐向东直言：“一旦大模型决策失准，会产生不可控的‘蝴蝶效应’，轻则业务受损，重则危及国家安全。”

为应对上述隐患，他主张严把内容关，“构建贯穿大模型全生命周期的内容安全治理机制”，包括对使用过程中的不良内容和异常行为进行监测、审计、拦截与预警；同时，“以实战为导向加强安全评估”，全面检测模型自身及其运行环境，验证防护策略的有效性；并倡导“运营可闭环”，借助AISOC将AI嵌入安全运营全过程，实现“用AI对抗AI”，对大模型攻击与异常行为进行实时监测与高效拦截，形成闭环应急处置能力。

（编辑：张靖超 审核：李正豪 校对：翟军）