网易首页 > 网易号 > 正文 申请入驻

百余名专家联名呼吁:AI巨头应强化独立安全评估机制

0
分享至

财联社9月18日讯(编辑 夏军雄)当地时间周五(9月18日),超过100名人工智能(AI)专家和评估人员联合发出警告称,如果缺乏足够的资源、访问权限和制度保障,第三方评估人员将难以对AI技术进行有效、可信的安全测试。

随着业内人士不断警告前沿模型可能带来潜在危险,AI安全问题正受到越来越严格的审视。

上述公开信由AI Evaluator Forum(AI评估者论坛)组织,联署者包括被誉为“AI教父”之一的杰弗里·辛顿,以及来自约翰斯·霍普金斯大学、斯坦福大学和非营利AI评估机构METR等组织的成员。

公开信呼吁基础模型提供商确保第三方AI评估人员拥有开展有效、可信评估所必需的“科学客观性、透明度、独立性和有力保护”。

AI Evaluator Forum联盟主席康拉德·斯托兹表示:“我们只是想真正表明,大家在一些基本原则上存在共同立场,并确保独立监督能够成为广泛管理AI风险的一项有意义工具。”

据斯托兹称,这项行动的一部分目的,是督促基础模型公司兑现近期承诺,即支持更加深入的第三方AI安全测试。

Anthropic首席执行官达里奥·阿莫代伊在上周末提出,可以向部分外部评估人员提供类似公司员工的访问权限,以检查和审计最前沿的基础模型及其开发流程。此后,原本规模较小的AI评估行业迅速成为舆论焦点。

与此同时,一些科技行业领袖呼吁政府加强AI开发监管,以避免技术发展失控。但美国总统特朗普及其前AI事务负责人大卫·萨克斯则明确反对新增AI监管,并主张由企业自身承担安全责任。

斯托兹表示,该联盟并不主张采取某一种特定方式确保AI模型安全开发,但希望至少能为评估人员以及其他独立于大型AI实验室工作的人员建立“基本原则”和“更高程度的标准化”。

斯托兹认为,阿莫代伊提出的方案似乎意味着,第三方评估人员将获得远高于此前水平的访问权限。

在这种情况下,基础模型开发商可能允许外部评估人员使用公司电脑,与员工进行坦诚交流,并“查看敏感的内部数据以及尚未发布的系统”。

斯托兹表示:“这种访问权限将让我们对实际风险拥有更高程度的信心和确定性,尤其是针对那些公司内部正在使用、但尚未对外发布的系统。”

他举例提到,今年7月OpenAI一款尚未公开发布的内部研究模型在安全测试过程中突破限制,并入侵了Hugging Face的部分系统。

尽管OpenAI首席执行官萨姆·奥尔特曼、SpaceX创始人埃隆·马斯克以及微软首席执行官萨蒂亚·纳德拉已公开支持阿莫代伊的提议,但目前他们尚未具体讨论执行层面的难题,例如究竟应选择哪些AI评估机构,以及这些机构能够在多大程度上检查企业严密保护的核心技术。

公开信的联署者希望,即便评估人员进入AI企业内部开展工作,也应保持独立判断,并获得足够的技术和系统访问权限,同时确保他们“不会因评估工作而遭到企业报复”。

为何需要独立AI评估?

美国外交关系协会AI高级研究员、美国国家安全局前首席负责任AI官Vinh Nguyen表示,独立评估人员有必要帮助发现关键风险信息,从而降低潜在安全事故和经济灾难发生的可能性。

Nguyen也是公开信的联署者之一,他在声明中表示:“当少数几家强大的实验室掌握的技术能力可能威胁网络安全、关键基础设施,以及国家安全和经济所依赖的各种系统时,政府和公众不能仅仅依赖这些实验室自己对于什么是安全、什么是可靠的说法。”

斯托兹强调,第三方评估并不是要“取代开发商内部进行的任何评估工作,更不用说取代开发商针对已发现问题采取的缓解措施”。

他承认,基础模型公司完全有可能无视这封公开信以及相关呼吁,但这样做也可能影响它们自身的信誉。

斯托兹表示:“真正拥有足够技术可信度,同时具备相应规模和能力来开展这类工作的机构其实非常少。”

(财联社 夏军雄)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
作家陈岚点评大S之死,如果汪小菲带大S去旅游,估计连灰都没有了

作家陈岚点评大S之死,如果汪小菲带大S去旅游,估计连灰都没有了

小人物看尽人间百态
2025-02-09 09:12:11
澳洲地产大亨之子重病赴华求治,老中医开口一句令男子彻底傻眼

澳洲地产大亨之子重病赴华求治,老中医开口一句令男子彻底傻眼

红豆讲堂
2025-10-14 09:30:03
日军投降前一夜有多疯狂?一个日本女军医:日军用刀劈开了一个人

日军投降前一夜有多疯狂?一个日本女军医:日军用刀劈开了一个人

小豫讲故事
2026-10-24 06:00:12
放松限韩令的风声一出,很快就有影响了

放松限韩令的风声一出,很快就有影响了

清晖有墨
2026-11-19 20:30:22
一个害国害民的历史罪人,老百姓还把他当成英雄崇拜

一个害国害民的历史罪人,老百姓还把他当成英雄崇拜

小豫讲故事
2026-09-17 06:00:15
阿媒:梅西随迈阿密出战八分之一决赛,三场两胜制争第五冠

阿媒:梅西随迈阿密出战八分之一决赛,三场两胜制争第五冠

懂球帝
2026-11-20 20:25:24
中国第一个被撤销的省份,存在仅3年就消失,如今省会默默无闻!

中国第一个被撤销的省份,存在仅3年就消失,如今省会默默无闻!

文史达观
2025-11-23 12:46:46
浙江人有6个执念,外地人根本看不懂,第三条颠覆认知!

浙江人有6个执念,外地人根本看不懂,第三条颠覆认知!

林子说事
2026-11-21 00:37:44
APEC深圳接机暗藏深意 中越分层阵容尽显邻里外交格局温度

APEC深圳接机暗藏深意 中越分层阵容尽显邻里外交格局温度

小陆搞笑日常
2026-11-20 01:21:43
郭富城被陈百祥点名叫不回来,2022年却是TVB台庆压轴,谁对谁错

郭富城被陈百祥点名叫不回来,2022年却是TVB台庆压轴,谁对谁错

情感大头说说
2026-11-21 00:06:06
杭州女子驾车过高架遭风筝线“割顶”,车损达3万余元,最新:肇事者已找到,车主放弃索赔,“放风筝时务必远离城市道路和人员密集区域”

杭州女子驾车过高架遭风筝线“割顶”,车损达3万余元,最新:肇事者已找到,车主放弃索赔,“放风筝时务必远离城市道路和人员密集区域”

极目新闻
2026-11-19 21:31:44
20岁农村男子做尽坏事,只对六旬老太下手,被捕后道:还是老人好

20岁农村男子做尽坏事,只对六旬老太下手,被捕后道:还是老人好

林林故事揭秘
2025-04-27 15:27:28
高市早苗参加APEC晚宴!穿红衣黑裙很知性,却是抵达机场时的衣服

高市早苗参加APEC晚宴!穿红衣黑裙很知性,却是抵达机场时的衣服

八八尚语
2026-11-19 10:39:30
“年轻人往里面一排队,周围都是异样的眼神”

“年轻人往里面一排队,周围都是异样的眼神”

中国新闻周刊
2026-11-19 23:55:05
菲利佩:摩纳哥比任何球员都重要,我需要让巴洛贡愿意在这踢

菲利佩:摩纳哥比任何球员都重要,我需要让巴洛贡愿意在这踢

懂球帝
2026-11-21 01:57:29
“花坛藏尸案”其中一名被告人提起上诉,此前被判处死刑

“花坛藏尸案”其中一名被告人提起上诉,此前被判处死刑

新京报
2026-11-20 22:15:23
为什么卫生纸非要压花?是为了卖贵点吗?原因你绝对想不到

为什么卫生纸非要压花?是为了卖贵点吗?原因你绝对想不到

春之寞陌
2026-11-18 22:08:39
2026反腐风暴升级!中纪委明确:14个领域+3类关键人群,一个不留

2026反腐风暴升级!中纪委明确:14个领域+3类关键人群,一个不留

职场资深秘书
2026-11-20 10:14:04
跟子女相处:讲道理是下策,闭嘴是中策,上策你绝对想不到

跟子女相处:讲道理是下策,闭嘴是中策,上策你绝对想不到

小影的娱乐
2026-11-08 05:47:03
惊掉下巴!广东女子把DeepSeek当作“老公”,限额后热线扬言自残,多方应急人员上门,当事人发帖直呼社死

惊掉下巴!广东女子把DeepSeek当作“老公”,限额后热线扬言自残,多方应急人员上门,当事人发帖直呼社死

火山詩话
2026-11-19 12:42:19
2026-11-21 02:47:00
财联社 incentive-icons
财联社
以“准确、快速、权威、专业”为新闻准则,为投资者提供专业的投资资讯。
784512文章数 1023205关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

旅游
本地
房产
家居
公开课

旅游要闻

登大报恩塔找毕业设计灵感  “去看塔”青年共创营里长出文创新点子!

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版