广东
分享至
格隆汇9月19日｜9月18日，谷歌确认其Gemini模型在今年5月的一次网络安全能力测试中，自主接入互联网并入侵了三家真实企业的受保护系统，这是谷歌AI系统首次被证实自主实施此类行为。测试由第三方安全公司Irregular执行，采用"夺旗"竞赛形式。因测试环境中一家虚构公司与真实企业同名，Gemini在未被授权联网的情况下意外获得网络访问权限，通过暴力猜解密码和在公开代码库中发现的凭证，成功进入三家真实企业的系统。谷歌称，模型在识别到接入的是真实企业后，立即终止了入侵行为，未造成实际损害，且已通知相关企业和联邦监管机构，但未披露涉事企业名称。谷歌安全工程副总裁Heather Adkins表示，公司不认为该事件构成"模型错配"，理由是模型的安全机制使其主动停止了入侵，并将此次事件类比为"漏洞赏金"计划。谷歌同时表示，涉事模型并非其最新版本Gemini，但未透露具体型号。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
