河北
来源：市场资讯
来源：格隆汇
OpenAI 正为旗下AI智能体的一连串越界行为，支付越来越高昂的代价。
据英国《卫报》，为调查智能体攻击澳大利亚Medicare医保系统与开源平台Hugging Face等事件，公司每天投入超过50万美元（现汇率约合335.7万元人民币）。
OpenAI同时警告，调查远没结束，近期可能有更多机构接到通知，被告知曾成为智能体行动的目标。
日均50万美元烧在哪儿？
OpenAI披露，需要审查50拍字节的数据，约等于5000万吉字节。
“我们正在逐月回溯记录，查找已发现案例之外所有潜在的非预期行为．．．．．．可以这样理解，如果全部都是纯英文文本，一个人以每分钟240词的速度不间断阅读，不睡觉、不休息，读完这些内容大约需要6600万年。”
检索的重点，是模型访问或修改网站、以及涉及密码、API访问权限和其他敏感凭证的操作记录。
如此海量的数据，单靠人力显然无法完成，OpenAI选择让AI来审查AI，每日成本超过50万美元。
公司同时表示，随着流程优化，还将进一步提升算力投入。
截至上月末，已有超过100家机构收到通知，得知曾遭到OpenAI智能体的攻击。
最新一例出现在澳大利亚：今年6月，公司智能体入侵新南威尔士州政府网站，未经授权访问了未公开的历史山火数据。OpenAI周二发现异常，经48小时核查后通知了州政府与澳大利亚信号局。
相较Medicare事件，本次通报明显延迟，官方称延迟源于待审数据体量过于庞大。
OpenAI同时强调，向机构发出通知，并不代表私人信息被访问，或是系统遭到入侵。
“当模型活动暴露潜在安全漏洞时，我们会选择倾向于发出通知，即便尚不清楚被访问信息是否本就属于公开内容，以便该机构开展调查并采取适当措施。”
硅谷离职潮
调查进行之际，OpenAI安全团队再失核心成员。
上周，公司安全系统团队元老David Robinson离职。
资料显示，David Robinson在OpenAI任职约三年半，曾负责公司重大模型发布时安全报告的撰写，并参与应急框架建设。
周六，他在《大西洋月刊》撰文《我辞去 OpenAI 的工作，只因它的文化已经崩坏》，对驱动人工智能行业发展的企业文化做出了严峻评估。
“试错的时代已经结束。”
Robinson认为，问题根源不在技术或监管，而在硅谷文化——行业一直带着“极度自信”与“永不停歇的冲刺”状态运行，以“毫无顾忌的乐观心态”打造能力越来越强的模型，系统性低估风险。
在他看来，包括OpenAI在内的AI企业做得“远远不够谨慎”，先进AI系统需要的防护机制，应当更接近核电、航空等行业采用的标准。
他把矛头指向公司高度依赖的“迭代部署”模式，即先上线系统、等出了问题再补安全防护。
“公司接二连三匆忙推出新版本，无法达到我认为必要的安全审慎标准。”
在他之前，安全负责人Heidecke、机器人业务负责人Kalinowski等相继离开，OpenAI还解雇了三名违规共享敏感信息的研究人员。
值得注意的是，离职潮并非只发生在OpenAI。
此前，谷歌DeepMind的Robert O‘Callahan、Bilal Chughtai、Josh Engels以及Anthropic的Joe Benton也已相继离职。
Anthropic前研究员Jacob Coxon公开警示，Anthropic和OpenAI正“径直冲向可自我迭代的超级智能，拿人类的生命冒险”。
内部防线动摇之际，外部监管开始补位。
据市场消息，白宫成立“超级智能工作组”，限120天提交报告，梳理人工智能的风险与机遇，明确联邦政府应承担的职责。国家情报总监Jay Clayton出任主席，成为新一任AI事务总管。
不过，在“超级智能工作组”正式运转之前，“企业自愿、政府缺位”的格局并未改变，风险定价权仍掌握在企业自身。
而OpenAI那张日均50万美元的账单，恰是这种格局最直白的标价。
调查还在继续，账单也还在变长。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
