浙江
Google于本周一正式上线专门针对AI产品漏洞的悬赏奖励计划。此次新计划详细列出了符合条件的漏洞类型，包括通过间接注入AI提示，使Google智能家居（Google Home）执行“异常操作”（如自动解锁门），或通过数据挟持提示，让AI总结受害者邮箱内容并发送至攻击者账户等。
此次悬赏计划首次明确界定了“AI漏洞”，主要聚焦于利用大型语言模型或生成式AI系统实施危害或利用安全漏洞的行为。其中，最受关注的是可导致用户账户或数据被恶意修改并影响安全，例如此前通过被“投毒”的Google日历事件让智能家居设备卷帘窗自动开启或灯光关闭的漏洞。
据悉，自Google两年前邀请AI安全研究者帮助寻找AI产品潜在漏洞以来，漏洞猎人们已累计获得超43万美元奖励。
值得注意的是，若只是让Gemini等AI出现“幻觉”则不属于奖励范围。Google指出，涉及AI生成内容的安全问题（如仇恨言论或侵犯版权内容）应通过产品内反馈渠道直接报告，这样AI安全团队才能对模型输出进行诊断和长期训练改进。
除了奖励计划，Google当天还宣布推出名为CodeMender的AI安全工具，可以自动修补代码漏洞。迄今为止，CodeMender已在人类安全研究员审核下为开源项目修复了72项安全问题。
根据公布的奖励标准，发现“旗舰产品”（如Google搜索、Gemini应用、Gmail和Drive等Workspace核心服务）上“异常操作”漏洞，奖金为两万美元，若报告质量突出或发现创新型漏洞，单项奖金可提升至三万美元。Google其他产品（如Jules或NotebookLM）和较低级别漏洞（如窃取模型参数）奖金则相应降低。
该计划强化了Google在AI安全领域的前沿布局，并鼓励全球安全人士积极参与GoogleAI产品的安全维护工作。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
