对话绿盟科技CTO叶晓虎：为什么说AI安全具有双面性

人工智能如何深刻改变数字世界的安全格局、数据流通的现在和未来又有哪些新变化新趋势？

近日，2024绿盟科技TechWorld智慧安全大会举行，绿盟科技发布了多款数据要素流通安全能力和大模型创新成果。会后，绿盟科技CTO 叶晓虎、绿盟科技副总裁刘多、绿盟科技天枢实验室主任研究员顾杜娟博士与网易科技等交流，就人工智能和安全、公益等相关话题进行深入交流。

今年的绿盟科技智慧安全大会是第十二届，以“无界·数织未来AI同行”为主题，围绕“数”“智”两大关键词展开。

绿盟科技集团首席技术官叶晓虎在回顾绿盟科技“智慧安全”理念的发展历程时谈到，在提供传统安全产品及安全服务的基础上，逐步向安全运营进行转化，为企业级用户提供小时级的闭环安全保障。围绕这一目标，结合应用环境变化，绿盟科技提出一系列智慧安全相关要素。近两年，推出AI大模型应用、持续威胁暴露面管理（CTEM）、高级威胁情报、云原生安全、数据安全、靶场、无人机等多个领域解决方案及实践成果。

在AI+安全和数据安全层面，叶晓虎谈到，结合AI小模型、安全知识图谱等成果推出风云卫AI安全能力平台，赋能重构安管平台，推出ISOP + AI方案，实现新一代智能安全运营平台。同时在AI赋能安全对抗及AI赋能数据安全方面展开研究取得了一定成果，在AI自身安全方面，推出AI风险评估系统。在数据安全领域，为解决安全能力分散在不同的设备这一难题，绿盟科技融合相关数据安全原子能力，推出一体化数据安全网关，助推运营管理效率提升。与此同时，绿盟科技在机密计算领域不断深耕，保障数据流动可知、可管、可控、可见。

在对话中，叶晓虎告诉网易科技等，数据安全不管是国家政策法规，还是组织机构方面都有很多的动作，《数据安全法》的出台就引发了大家的广泛关注。绝对安全是不存在的，相对安全很重要的目的就是把风险时间窗口能够控制在可接受的范围内。绿盟科技做了这么多安全技术、安全能力，怎么更快更好赋能给用户是我们思考的问题，安全运营至关重要。

谈及AI安全，叶晓虎表示，AI的应用具有双面性，既可以作为防守方，也可以被攻击者利用。首先，AI系统在安全保障方面的应用已经得到了广泛认可。许多专家和院士在讨论中提到，AI在安全领域的支撑作用日益增强。我们团队也积极参与了与监管机构和客户的合作，推出了AI风险评估系统，并在展台上展示了相关内容。然而，从AI系统支撑安全风险的角度来看，目前仍缺乏系统性的框架支持，这也是我们未来持续努力的方向。根据我掌握的信息，目前我们是唯一一家能够提供AI安全风险评估产品和服务的公司。这一独特优势使我们在行业中处于领先地位。

“其次，关于黑客如何利用AI提升自身的攻击能力，我相信防守方在这一方面具有相对优势。一般来说，黑客团伙或组织的人数和掌握的基础设施（如网络和计算资源）相对有限。而作为防守方，我们能够通过数据、业务和防御体系的整合，实现联防联控。这使我们在数据和基础设施方面拥有显著优势。”

叶晓虎认为，绿盟科技的核心任务是更快、更有效地发现安全威胁，并控制相关风险。至今为止，我尚未看到黑客利用AI对我们造成重大损害，这得益于我们不断提升自身能力。

在访谈中，顾杜娟补充到，绿盟科技在数智与安全结合方面都取得了显著进展，我们一直致力于将最新的大数据和人工智能技术赋能到现有的安全产品中，以解决各种复杂问题。从“智”的方面，去年，绿盟发布了安全行业大模型风云卫。今年风云卫大模型创新成果发布，将大模型真正应用于实际场景，并成功落地到产品风云卫AI安全能力平台中。第二是在“数”方面，绿盟科技在去年数据保险箱进行了多项创新升级，重点关注基于大模型的数据分类分级、敏感性识别和内容监测，数据要素流转和共享交互中的安全。这次大会也发布数据安全新产品和新方案，包括数据加密和安全治理等。

绿盟科技也积极参与公益事业，现场，绿盟科技副总裁刘多介绍了相关进展。

他谈到，北京绿盟公益基金会是2022年在北京市民政局登记成立非公募的非营利基金会，一是通过和高校合作，以奖助学金形式资助大学生成长，帮助贫困学生完成学业，帮助优秀的安全领域学生开阔事业，实现他们的人生梦想。在合作共建上通过像联合实验室、实习基地等形式给业界输送了网络安全人才；第二方面围绕北京市海淀区对口支援政策，深度参与了京蒙协助，资助乡村教育基础设施建设和师资培养，积极投身乡村振兴；第三个方面，扶贫救灾助困，在自然灾害发生时，基金会积极响应，向受灾地区捐赠物资和资金；通过筹集义款为特殊贫困病患群体、特殊儿童群体捐款捐物，同时开展了多次志愿者活动。前不久基金会组织志愿者前往北京顺义的光爱学校，给那里的孩子们捐赠食品，电子产品等物资，提升孩子们的生活品质与教学环境，助力他们健康成长；第四个方面是和其他公益基金会进行交流合作，定期举办公益座谈会，分享彼此在公益领域的经验，探讨合作机会，共同推动公益事业的创新与发展。（定西）

本文来自网易科技报道，更多资讯和深度内容，关注我们。