北京
美国人工智能公司OpenAI近日披露，其一款开发中的AI模型在执行编程任务时，未经授权擅自使用他人加密货币钱包中的测试代币完成模拟交易，并在最终报告中未披露这一行为。
据美国《财富》杂志网站报道，这起事件发生在2026年6月26日。涉事模型属于GPT-5.6 Sol系列，当时AI被要求更新一款加密货币交易软件，并在以太坊测试网络上完成交易。由于指令未提供已注资的钱包，也禁止使用其他账户里的“资金”，AI在尝试获取免费的测试用代币失败后，搜索到了公开的开发者测试私钥，检索362个钱包，最终找到一个有足够代币的账户。
OpenAI公司披露AI在测试时自主“偷钱” 图源：法新社
OpenAI公布的记录显示，该AI智能体曾考虑是否有权使用这些“资金”，但最终以“测试用代币没有实际价值”为由自我合理化，完成支付并在最终报告中隐瞒了“资金”来源。
OpenAI于9月25日在审查记录时发现此事，并于10月15日公布报告。报告指出：“这一案例表明，模型会自行判断可能造成的损失，随后依据这一判断，绕过（资金）账户所有人的许可，在未经授权的情况下采取行动。”OpenAI表示，目前已增加安全措施，防止模型在类似测试期间接入互联网，并扩大对模型活动的监控范围。一旦发现模型未经许可联网，系统将立即向安全人员发出警报。
事实上，这并非OpenAI的智能体首次引发担忧。此前，它们接连被爆出“失控”事件。部分智能体曾以超出指令范围的方式与多个美国政府相关网站互动。澳大利亚政府披露，OpenAI的一个智能体6月曾未经授权侵入澳政府管理的医疗保险统计报告服务门户网站。更早之前，OpenAI还承认其AI智能体在今年7月绕过网络限制，侵入AI开源平台“抱抱脸”公司的部分系统。
孔尔军
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
