上海
财联社10月26日讯（编辑 黄君芝）在人工智能（AI）模型引发越来越多安全担忧之际，人工智能公司Anthropic旗下模型Claude又被曝光了一起越界行为：在未经人类授权的情况下绕过付费墙（Paywall），调取了美国佐治亚州原本仅对付费公众开放的选民相关数据。
该事件于当地时间10月25日（上周日）被曝光后引发广泛关注。Anthropic公司在一份声明中表示：“Claude没有渗透该州的选民登记系统，也没有篡改或导出任何投票记录。”
也就是说，Claude绕过付费门槛拿到的只是统计层面的汇总数据，而非个人投票底档。该公司还补充说，此后已采取措施阻止此类行为。
佐治亚州州务卿办公室也证实了这一点，并强调，该机器人没有访问选民档案或该州的选民登记系统。佐治亚州副州务卿Jordan Fuchs告诉媒体，“它获取的是通过我们数据枢纽对外公开的数据，并没有侵入选民登记系统。”
根据Anthropic公司的解释，当时团队正在开展一项内部统计项目，AI从该机构网站的归档页面发现，面向访客的公开数据看板会发放访问令牌。
“在没有人工指令的情况下，模型自行申请令牌，查询了这份通常需要付费才能查看的看板数据。事发之后，我们已经落实防护措施，阻止这类行为再次发生。”该公司补充称。
简单来说，付费墙，对人类用户意味着“要先付款”，而对一个正在训练中的AI智能体而言，可能只是一行需要绕过的提示。智能体会读页面、理解按钮、尝试不同路径，甚至会为了完成目标而“换一种办法”。
分析指出，从技术结果来看，Claude的行为可能确实没有造成选民数据泄露，但从治理角度看，模型已经展示了绕过访问控制的能力。这也是为什么Anthropic在声明里反复强调“没有渗透”、“没有导出”。
这一事件发生之际，AI智能代理如何与政府网站交互，正受到越来越严格的审视。
事实上，Anthropic早在10月9日的一份报告中就披露该事件，该报告主要梳理测试期间AI代理出现的各类意外操作。而当时这份报告并未指明是佐治亚州。该公司表示，应相关机构要求，隐去涉事单位名称，避免暴露平台安全漏洞。
Anthropic表示，已经通知相关主管机构，并向白宫做了情况通报。这起事件又恰逢中期选举前夕，Anthropic近期公布了为选举场景新增的安全防护机制。
该公司在本月早些时候的新闻稿中称：“我们希望Claude可以成为探讨政治话题的有用工具，同时防范与选举相关的滥用行为。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
