对话360智脑总裁张向征：如何打造安全大模型

8月2日消息，第十二届互联网安全大会（ISC.AI 2024）开幕，本次大会以“打造安全大模型，引领安全行业新革命”为主题，深度聚焦安全和AI两大领域。现场，我们与360智脑总裁张向征进行了对话，关于360智脑对安全问题的理解以及产品规划等议题进行了深入交流。

张向征介绍，智脑团队负责通用模型能力，以及面向核心业务场景做专项能力，比如智阅，浏览器，文本总结、视频/字幕总结、思维导图生成、搜索的猜词、意图识别和总结等等。与此同时，智脑团队还负责API和AI安全结合大模型能力的工作。

本届大会的主题就是“打造安全大模型”，谈及安全话题，张向征表示，安全问题分几块，第一块是系统部署层面，这是传统网络安全相关，包括Agent框架，包括向量数据库，包括PyTorch框架，本身是有潜在的漏洞风险；第二块是生成出的内容是否符合监管要求，包括价值观的对齐；第三块是输出结果出错，假设出现10%，我不知道这个10%发生在什么时候，导致很多时候生成的结果到底该不该信。第四块是和Agent框架相关，大模型只是调度的中枢，可以访问很多第三方或者公司或者企业内部的很多数据库，如果做自动化的操作有可能波及到其他系统的安全。比如，用于具身智能，可能会做一些危险的动作。

在安全层面，ToB和ToG的不同也较为明显，张向征介绍，安全问题容忍度不一样，比如政府部门，训练数据需要提供私有化的部署方案，所有的微调、增量训练都必须在政府机构内部网络环境里做。在ToB场景，比较典型的是教育，有一首诗“床前明月光”，网上有两个版本，产品经理就很慌，觉得这么出名一首诗，整首诗介绍为什么跟课文上不一样。儿童没有很好的辨别能力，这就导致对结果可信度要求非常高。

谈及小模型话题，张向征指出，小模型在电脑端的应用，我们有过一些探索，内测了相关的方案，但是符合要求的笔记本还太少了，量没有那么大。另外我们也考虑了接受度，我们认为目前小模型的产品化还有一段路需要走。

关于近来热议的AI搜索话题，张向征回应道，AI搜索跟传统搜索比，比较特色的地方是可以多步推理或者多个关键词搜索，把复杂问题做拆解，分步骤的、自动地去做多步检索之后再去做融合，或者推理完第一步之后再把推理出来的结果再做一次搜索，然后再交给大模型，再去做融合。未来，如果AI搜索能力越来越强，用户的习惯就会迁移，但不能说是一个完全新的产品形态，这和用户使用习惯相关。（定西）

本文来自网易科技报道，更多资讯和深度内容，关注我们。