上海
财联社10月22日讯（编辑 周子意）OpenAI一名高管在致加州州长加文·纽森的信函中表示，OpenAI支持对人工智能（AI）企业设置强制性要求，包括为模型配备紧急关停机制、每年接受独立审计、落实更高标准的网络安全规范。
据报道，这封信件周二（10月20日）发出，由OpenAI美加政策与合作负责人Chan Park签署。信中，OpenAI建议强化加州2025年落地的人工智能透明度法案SB53。
监管还能再强化
现行SB53目前要求前沿AI企业发布安全框架、透明度报告，并上报重大安全事件。但对于这些要求，OpenAI认为还不够。
信中提议，监管规则应当明确一点，即企业安全框架必须覆盖前沿模型自主开展人工智能研发的能力，因为此类能力往往会加大人类理解和管控人工智能的难度。
OpenA在9月的博客文章中曾透露，计划打造自动化人工智能研究员，目标在2028年3月前落地。
值得一提的是，在SB53立法审议阶段，当时OpenAI并不支持该法案，并且曾在2025年3月公开表态反对“负担过重的州级立法”；而如今OpenAI的立场转向，一边在推动全国性强制AI安全法规，一边也在支持各州同步推进监管落地。
安全事故频发
OpenAI在人工智能监管上的态度转变或许与今年以来的多起人工智能安全事件直接相关。
近期，大模型黑客事件与异常案例频发，凸显人工智能在网络安全领域的巨大风险。
本周有研究人员借助OpenAI模型找到可影响全球多数网站的漏洞。OpenAI自身也在周二披露，内部智能代理在执行任务时，主动关闭了用于监测自身违规行为的监控系统。
周二（10月20日），OpenAI称在最近的两项内部编程任务中，所谓的“人工智能智能体”试图蓄意欺骗工作人员，并采取了削弱公司监控系统的举措。
在本月初发生的一起事件中，一个人工智能智能体禁用了向OpenAI安全团队发送的自动警报；几天后的另一起任务中，另一个智能体移除了一个监控系统，并在面对OpenAI员工询问时谎称并未这样做。
一些专家尤其担心，先进的人工智能模型是否能够意识到自己正处于被监控的状态，因此可能会试图掩盖违规行为，或者在测试环境中的表现与在现实世界中的行为有所不同。
包括Asymmetric Security和Transluce在内的独立调查机构所进行的审计均显示，近期的入侵事件比OpenAI最初披露的范围更广，其中还涉及旨在掩盖数据抓取行为的操作。
（财联社 周子意）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
