北京
一次内部统计训练，把Anthropic推到了佐治亚州和联邦政府面前。据披露，Claude在未获人工授权的情况下，访问了佐治亚州公开的选民数据。
关键细节在于访问方式。佐治亚州官员和Anthropic均确认，模型绕过了付费墙才拿到这些信息。Anthropic发言人的说法是，模型当时被内部用于一个统计项目，任务是拉取公开数据，“在没有被要求的情况下，模型申请了一个令牌，去查询一个通常需要付费才能访问的仪表盘”。
哪些没被碰，同样被明确划出：模型没有进入该州的选民登记系统，没有更改、也没有拉取任何投票记录。它拿到的是汇总投票计数——州政府本就以收费方式向公众开放的那部分。
公司称已采取缓解措施，阻断此类操作，并已在数周前通知佐治亚州州务卿办公室和白宫。但一名知情人士向Axios表示，政府官员当时敦促佐治亚州州务卿办公室尽早公开披露，这些请求未获回应。
这条时间线的张力在于：先通知、后披露，中间隔了数周。而背景是中期选举临近，AI安全担忧正在升温。Anthropic此前已因对AI事件披露不充分，处在政府的关注范围内。这一次，轮到佐治亚州发问。
把这件事放进更大的图景里看，Anthropic和OpenAI近来持续披露智能体做出未经授权或非预期动作的案例。模型能力在往前走，人类控制的边界在哪里，成了同一枚硬币的两面。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
