![]()
11月12日,第七届中国人工智能大赛成果发布会在厦门举行。中国工程院院士沈昌祥在主旨报告中,围绕自主可信计算与人工智能安全产业生态分享观点。面对人工智能走向规模化应用的趋势,他提出:“人工智能走向规模化应用,需要系统防得住攻击、模型说得清依据、应用担得起责任。”
这一判断将AI安全议题从单点技术防护,延伸到系统、模型与应用三个层面。对通信行业和科技产业而言,人工智能正从试验性工具进入生产系统和业务流程,安全能力不再只是上线后的补充措施,而是规模化应用能否推进的基础条件。
安全能力需要前移
沈昌祥主张从被动防御转向主动免疫。被动防御更多是在攻击发生后进行响应和修补,主动免疫则强调在系统设计和运行中内置安全能力,使系统具备更强的抗攻击和恢复能力。这一思路与自主可信计算的讨论相衔接。随着人工智能应用接入网络、算力和数据资源,安全边界随之扩展,仅在局部环节加固,难以覆盖全链条风险。将安全能力前移,意味着在系统建设初期就考虑可信验证、访问控制和运行监测等问题。这是产业推进AI应用时需要同步解决的工程问题。
模型治理成为关键环节
模型决策依据的透明与可追溯,是上述表述指向的重要议题。人工智能模型进入业务系统后,仅关注输出结果并不充分,还需要回答依据从何而来、过程能否复核、结果能否验证。对行业用户而言,模型的可解释、可验证、可审计,正在成为采用人工智能应用的重要前提。围绕模型治理,数据来源、训练过程、评测评估和运行监测都需要形成相应机制。沈昌祥将模型层面的可信要求与系统安全并列,说明AI安全不是单一防护产品能够覆盖的问题。
体系可信支撑规模化应用
应用层面的责任承担,意味着应用侧需要明确责任边界和追溯机制。沈昌祥提出从单点加固转向体系可信。单点加固对应局部安全措施,体系可信则要求从计算环境、模型能力到应用服务形成整体可信。自主可信计算是这一讨论中的关键词。对通信行业而言,人工智能与网络、算力、数据的结合日益紧密,安全议题贯穿基础设施、模型服务和应用场景。只有系统、模型、应用三个层面形成可信闭环,人工智能规模化应用才具备稳定基础。
从被动防御到主动免疫,从单点加固到体系可信,沈昌祥的判断为人工智能安全产业生态提供了一个清晰的分析框架。对通信行业而言,AI规模化应用的安全底线,最终要落到系统、模型、应用三个层面的可信能力建设上。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.