北京
IT时代网8月12日消息，据外媒Axios今日报道，一个由120多个组织组成的联盟正在为AI智能体推动一套新的事件报告框架，成员包括英伟达、思科和CrowdStrike。参与公司需要披露某些智能体事故，并保存详细的事故记录。
问题的背景不难理解：AI智能体在计算机系统里拿到的自主权越来越大，可业界至今没有一套标准做法，用来报告安全故障、从故障里吸取教训。
推动这件事的组织叫The Open Secure AI Alliance（开放安全人工智能联盟），正在制定名为“Shared AI Findings Exchange”（共享人工智能发现交流，简称SAFE）的指南，内容是如何报告涉及AI智能体的网络安全事件。草案呼吁模型部署者、AI开发者、云和工具提供商、独立研究人员、关键基础设施运营商等各方参与，政府机构也将受邀，身份是“非控制性观察员”。
哪些情况必须上报？SAFE成员同意的范围包括：AI系统未经授权访问或利用第三方系统、泄露机密信息，或者在操作员已经怀疑活动未获授权之后仍继续探测生产目标。成员还要报告某些险些发生的事件，并保存提示、智能体追踪、工具调用、身份、权限和凭证等证据。
时间表定得比较细。按拟议方案，成员应在事故发生后尽快通知受影响的组织，四个工作日内向SAFE提交初步保密报告，适当情况下30天内发布初步事实报告，90天内给出补救措施更新。SAFE则负责分析事件、找出重复出现的故障，并提出共享的安全控制建议。
这套机制的蓝本来自航空业。英伟达企业计算副总裁兼总经理Justin Boitano在黑帽子大会上对Axios说，该计划参照了NASA的航空安全报告系统——那套系统能借助飞机飞行记录器捕获的数据来调查事故。
联盟方面判断，网络安全领域本来就有共享威胁情报的文化，各公司参与的意愿不低。英伟达副首席信息安全官兼副总裁Julien Soriano的表述是：“几乎没有遇到任何阻力。我们看到人们都愿意参与进来，他们渴望分享。”目前这份提案正通过Linux基金会主办的征求意见流程收集社区反馈。
注：本文中包含AI辅助创作的内容。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
