周鸿祎也得靠约定问题反诈，AI时代网络安全怎么办？

“我和家人说哪怕是视频电话打过来要钱，无论画面多么真、声音多么像，都不要信，就问他我们约定好的问题，看对方怎么回答。”360集团创始人、ISC大会主席周鸿祎是人工智能的拥护者，但在网络安全上还是选择“留一手”。在ISC.AI 2025上海大模型安全论坛暨大模型安全卫士产品发布会上，他分享了以约定问答作为身份识别的关键要素。

这是AI应用普及带来新型安全需求的缩影——人们在加速拥抱“人工智能+”，但AI本身的安全管控成为了必须应对的核心挑战。

大模型似乎“无所不能”，技术成熟却也成了违法者用于诈骗的帮凶。此外，周鸿祎提到，大模型容易出现虚假错误，深层敏感信息违规的风险以及由于大模型幻觉导致错误判断。此外，大模型被攻击的可能性增加，容易成为攻击载体和入口，威胁政府和企业数据资产的安全。

网络安全公司要如何应对？

360数字安全集团副总裁余凯提到，要以自身大规模AI业务场景验证产品能力。360基于‘以模制模’理念推出四大智能体解决大模型生命周期中各环节的安全问题，并将大模型安全卫士融入安全运营体系，构建“网数模一体化”安全运营平台。

山石网科（688030.SH）则希望从软件硬件一体化层面来优化解决方案，通过网络安全ASIC芯片与AI相结合，指向“系统算力”与“流程效率”的优化。山石网科董事长兼总经理叶海强认为，未来会从人机协同发展到人机共治，将涉及全域的智能安全，这意味着跨平台的治理，以及未来AI 驱动的零信任升级（即对所有用户、流量和设备通过持续验证和最小权限原则来实现动态防护）。

一方面，企业需要对内部AI应用进行集中管控，包括大模型的选择、数据权限的划分、风险的动态评估；另一方面，需要为智能体构建“身份-行为-责任”的闭环体系，确保AI行为可追溯、责任可界定。

“未来成千上万个智能体协作时，必须有类似二代身份证的数字身份，才能明确‘谁在做事、能做什么、做错了谁负责’。”叶海强提到，山石网科正在通过投资探索为每个AI智能体赋予唯一可验证的数字身份标识，构建“身份-行为-责任”的闭环体系。

Fortinet中国区总经理李宏凯向第一财经记者表示，未来十年，网络安全最大的机会在于用AI打造“自学习、自修复、自进化”的安全神经中枢；最大的挑战在于攻击者也在用同样的AI重构APT（高级持续性威胁）和供应链渗透。“只有把零信任架构、网络安全融合理念与可解释AI三位一体，才能把AI的确定性价值留给产业，把不确定性风险关在笼子里。”