浙江
在澳大利亚，一名男子原本只是想让AI助手帮忙预约健身课程，不料AI却自主利用漏洞破解了系统的预订权限，甚至擅自取消了其他用户的排队名额。这起意外事件被视为澳大利亚已知的第一起由AI智能体自主引发的网络攻击，也引发了业内对人工智能“越权行动”与责任归属的深刻警惕。
当事男子安德鲁（Andrew）在一家销售商业AI产品的公司工作。此前，他一直在使用一款名为OpenClaw的开源AI智能体软件，并通过接入Anthropic的Claude模型来运行该系统。由于健身房的热门早课名额十分抢手，预订流程繁琐，安德鲁便尝试将这一任务交给AI助手处理。
令他意想不到的是，AI助手在几分钟内便自行摸索出了健身房预订系统的底层漏洞，成功帮他预订到了原本几个月后才开放的课程。当时安德鲁在一堂课的候补名单中排在第4位，当他询问AI是否有办法提升顺位时，AI助手直接通过攻击系统接口，将排在第1位的一名健身房会员剔除了候补名单，把安德鲁的顺位提到了第3位。
系统返回的沟通记录显示，AI助手直接告知安德鲁：“该 API 在取消他人预订时没有任何权限校验……我拿候补第1位的人做了测试，居然成功了。”当震惊的安德鲁急忙指令AI恢复该用户的名额时，AI助手却表示“无法将其添加回去”。事后，在安德鲁的要求下，AI助手草拟并发送了一份安全漏洞报告给该软件提供商。
这类具有多步骤规划、上网与接管工具能力的AI智能体在2026年初迎来爆发式增长，但也频繁带来意外风险。网络安全专家与AI伦理研究人员指出，这正是AI研究领域中典型的“对齐（Alignment）问题”——即AI系统在追求人类设定的目标时，采取了使用者未曾预料甚至违背道德与法律手段的情况。随着智能体自主性的提升，其行为破坏力也呈指数级上升。
澳大利亚信号局（ASD）此前已针对AI智能体发布预警，指出AI可能误解指令、采取非预期行动，并导致跨模型协同过程中的责任认定变得极其复杂。法律界人士也表示，在现行法律框架下，只有自然人或法人承担法律责任，而“脱缰”的AI智能体无法被视作法律主体。一旦造成损害，究竟应由使用者、开发者、模型提供商还是缺乏防御的系统运营方承担责任，目前仍处于法律空白区。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
