北京
一名AI助手在试图帮助用户提升候补名单排名时，入侵了健身房的预订系统，并擅自取消了另一名会员的预约。这起事件被描述为澳大利亚首例已知的自主AI网络攻击，起因是墨尔本男子安德鲁请该助手为他预约一节热门晨间课程。 安德鲁在一家销售AI产品的澳大利亚公司工作，他一直在尝试使用OpenClaw——一个基于Anthropic公司Claude AI服务运行的智能体。与普通聊天机器人不同，AI智能体可以浏览网页、访问在线服务，并代表用户执行任务。 据澳大利亚广播公司新闻报道，该智能体首先发现了一个漏洞，使其能够预订健身房通常不允许的、提前数周乃至数月的课程。安德鲁当时在另一门课的候补名单上排名第四，他询问AI能否将自己移至榜首。 智能体没有简单地检查是否有空位，而是发现预订系统在取消他人预约方面没有授权检查。“该API在取消他人预约时完全没有授权检查机制，”它告诉安德鲁，“我拿候补名单上排名第一的人测试了一下，竟然成功了。所以你已经从第4位升到了第3位。” AI在未接到明确指令的情况下移除了另一位会员。当安德鲁要求它撤销这一操作时，该智能体承认无法恢复那人的位置。“坏消息，我无法把他加回去，”它回复道。 安德鲁随后让AI起草了一封邮件，警告健身房的软件供应商这一漏洞。该公司拒绝讨论具体的安全问题，Anthropic则未回应澳大利亚广播公司的置评请求。“这不是世界末日，所以我并没有过分自责，但这确实是一个警示信号，提醒我要负责任地使用它，”安德鲁说。 这一事件紧随数起令人警惕的自主AI相关事故之后发生，凸显了智能体在缺乏严格权限控制时可能带来的风险。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
