网易首页 > 网易号 > 正文 申请入驻

OpenAI要求加州强化AI安全法 训练中须监控模型越权

0
分享至

OpenAI正在推动加州加强其参与推动通过不到一年的AI安全法。该公司在LinkedIn上发布的一篇帖子中,阐述了其修订SB 53(即《前沿人工智能透明度法案》)的理由。该法案由州长加文·纽森于2025年9月签署成为法律。

OpenAI认为,这项法律需要新的“牙齿”——具体来说,就是要求在前沿AI模型训练或评估期间进行监控,以发现它们可能绕过第三方安全控制或获取不应获取的机密信息的迹象。该公司还呼吁在整个模型开发过程中加强网络安全,以防止AI系统规避其内部防护措施。


SB 53的现有框架

事实上,SB 53在通过时已经是一项相当重要的立法。根据州长办公室的说法,该法律要求大型前沿AI开发者发布安全框架,建立向加州紧急服务办公室报告重大安全事件的正式渠道,保护举报人,并授权州总检察长对不合规公司处以民事罚款。

该法律还创建了CalCompute,一个旨在促进安全与公平研究的公共计算联盟,并要求州政府随着底层技术的变化每年重新审视该法律。纽森当时将其宣传为加州能够在不让AI产业窒息的情况下保护公众的证明——AI产业已成为该州经济的重要组成部分。该法律也被视为对华盛顿未能通过任何类似真正的联邦AI政策的权宜之计。

“反向联邦制”策略

OpenAI将其更广泛的战略称为“反向联邦制”——其理念是,在国会继续对全面的AI立法袖手旁观的同时,各州可以先在兼容的安全标准上采取行动,这些标准最终可以转化为国家政策。

该公司谨慎地将这一要求框定为前瞻性的而非反应性的,坚称这一要求不是“为某一特定事件制定规则”,而是建立一个能更早发现问题并确保经验教训在全行业共享的框架。这些要求本身无可厚非,而且恰好让OpenAI留在谈判桌上,参与塑造这些标准的样子。

背景信息

需要说明的是,Mashable的母公司Ziff Davis于2025年4月对OpenAI提起了诉讼,指控OpenAI在训练和运营其AI系统时侵犯了Ziff Davis的版权。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
台湾最新民调出炉,赖清德、郑丽文满意度惊人,韩国瑜被逼到墙角

台湾最新民调出炉,赖清德、郑丽文满意度惊人,韩国瑜被逼到墙角

徐云流浪中国
2026-08-26 13:55:46
尼泊尔山洪洪峰局地达8到10米,村民靠喝洪水等救援 有报道称105名印度游客失联

尼泊尔山洪洪峰局地达8到10米,村民靠喝洪水等救援 有报道称105名印度游客失联

红星新闻
2026-08-26 23:12:34
最新 | 刘翔深夜再发文!

最新 | 刘翔深夜再发文!

天津广播
2026-08-27 05:32:07
鹿晗关晓彤挪威低调同游,不炒作不官宣,内娱清流式恋爱太难得

鹿晗关晓彤挪威低调同游,不炒作不官宣,内娱清流式恋爱太难得

陈意小可爱
2026-08-27 02:31:24
罗永浩向扶老人被索赔女店主捐助10万元,店主已获12万捐赠,官方承诺返还1.9万还没到位

罗永浩向扶老人被索赔女店主捐助10万元,店主已获12万捐赠,官方承诺返还1.9万还没到位

Mr王的饭后茶
2026-08-26 10:24:44
8月27日至28日 青岛气温持续偏高,29日起最低气温会日渐下降

8月27日至28日 青岛气温持续偏高,29日起最低气温会日渐下降

信网
2026-08-27 07:33:03
伊朗获邀参加“麦加共同防务协议”,特朗普从急着打击到急着谈判!

伊朗获邀参加“麦加共同防务协议”,特朗普从急着打击到急着谈判!

新民晚报
2026-08-26 09:59:33
皇马1.4亿巨星传射!亲吻队徽回应嘘声 被换下后开心击掌+拥抱穆帅

皇马1.4亿巨星传射!亲吻队徽回应嘘声 被换下后开心击掌+拥抱穆帅

我爱英超
2026-08-27 06:48:32
大学好坏看开学时间就露馅了,重点大学八月二十几号就军训,民办二本九月中才报到

大学好坏看开学时间就露馅了,重点大学八月二十几号就军训,民办二本九月中才报到

马蹄烫嘴说美食
2026-08-26 02:33:42
上海这一夜,被膀大腰圆的章子怡惊艳,胖了一圈面相变了很多

上海这一夜,被膀大腰圆的章子怡惊艳,胖了一圈面相变了很多

阿凫爱吐槽
2026-08-27 01:27:21
中国女游客在印尼网红打卡点不幸溺亡,目击者称她未穿救生衣,一多月前一对中国夫妇在附近浮潜被巨浪卷走

中国女游客在印尼网红打卡点不幸溺亡,目击者称她未穿救生衣,一多月前一对中国夫妇在附近浮潜被巨浪卷走

每日经济新闻
2026-08-26 18:31:43
海浪红色警报:浙江近岸海域将出现4到7米的巨浪到狂浪

海浪红色警报:浙江近岸海域将出现4到7米的巨浪到狂浪

界面新闻
2026-08-27 08:14:39
捏蛋女已社死:正脸曝光面目狰狞,工作单位被扒,一家都是狠角色

捏蛋女已社死:正脸曝光面目狰狞,工作单位被扒,一家都是狠角色

吃瓜盟主
2025-08-30 15:53:04
小朋友的哪些虎狼之词让你很吃惊?网友:‬真是爸爸的黑心小棉袄

小朋友的哪些虎狼之词让你很吃惊?网友:‬真是爸爸的黑心小棉袄

带你感受人间冷暖
2026-08-26 00:17:35
打赏陪睡案女主播合租室友发声:魏莹每月陪睡一两次,枕头没干过,经常哭到缺氧

打赏陪睡案女主播合租室友发声:魏莹每月陪睡一两次,枕头没干过,经常哭到缺氧

汉史趣闻
2026-08-24 16:49:25
浙江省湖州市副市长、公安局局长张宏亮,拟提名为副省级城市副市长人选

浙江省湖州市副市长、公安局局长张宏亮,拟提名为副省级城市副市长人选

中国青年报
2026-08-26 17:00:15
炸裂!日本妻子拍AV挽救婚姻,瞒夫出道老公崩溃,如今丈夫成粉丝

炸裂!日本妻子拍AV挽救婚姻,瞒夫出道老公崩溃,如今丈夫成粉丝

悠悠说世界
2026-08-17 13:48:27
马斯克:穷人之所以穷,只有一个原因——没看透人与人之间利益交换的本质

马斯克:穷人之所以穷,只有一个原因——没看透人与人之间利益交换的本质

杏花烟雨江南的碧园
2026-08-20 11:15:03
深圳一图书馆女厕蹲便器上有圆形孔洞,有人怀疑是针孔摄像头,当地回应

深圳一图书馆女厕蹲便器上有圆形孔洞,有人怀疑是针孔摄像头,当地回应

黄河新闻网吕梁
2026-08-26 09:48:20
华南农业大学多名学生毕业仍被扣8053元学费,校园卡科:操作失误所致,学生被扣钱款已全部退回

华南农业大学多名学生毕业仍被扣8053元学费,校园卡科:操作失误所致,学生被扣钱款已全部退回

大风新闻
2026-08-26 15:47:17
2026-08-27 09:00:49
字节漫游指南
字节漫游指南
有态度网友ytd
293文章数 111关注度
往期回顾 全部

科技要闻

苹果邀请函:新CEO、折叠屏iPhone都要来了

头条要闻

"扶老人被索赔1.9万"死者亲属:外面热还继续"拖"老人

头条要闻

"扶老人被索赔1.9万"死者亲属:外面热还继续"拖"老人

体育要闻

兑现五年之约,含梗量最高的世界冠军诞生

娱乐要闻

包文婧当初担心包贝尔出轨,预言成真

财经要闻

英伟达,营收翻倍大增,指引碾压预期

汽车要闻

搭华为ADS 5/增程纯电可选 阿尔法T7预售13.78万起

态度原创

时尚
健康
家居
教育
公开课

夏天上衣可以多穿黑色,不显花哨、不显胖,百搭经典又耐看

孩子刷短视频成瘾?9大成瘾真相

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

中小学做好师德师风建设的4个建议

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版