网易首页 > 网易号 > 正文 申请入驻

"开源权重远非充分解决方案":Dario Amodei回应AI权力集中争论

0
分享至


Anthropic首席执行官Dario Amodei表示,开源权重带给开发者的独立性存在根本性的算力天花板。

"AI在结构上是一种倾向于集中权力的技术,这与监管毫无关系,"Amodei在X平台与投资人Gavin Baker的公开交流中写道。他将这种集中归因于扩展定律,而非政府政策。

"开放权重对此有一定帮助,但远非充分解决方案,因为它只是将集中程度从少数企业转移到了那些拥有最多算力和芯片的人手中,"他补充道。

这场争论始于一个问题:监管究竟让AI更安全,还是让少数公司握有过多权力?最终留给开发者一个现实问题:当算力仍由他人掌控时,拥有模型权重是否真的意味着独立?

Atreides Management管理合伙人Gavin Baker将这场辩论框架化为一个选择:是将强大的模型集中在少数受监管的公司手中,还是在没有同等防护措施的情况下广泛分发?他援引Meta首席执行官马克·扎克伯格的论点:将AI集中在少数所谓负责任的组织手中,本身也会制造危险。

"认为AI如此危险以至于唯一安全路径是极度集中权力,这种观点本身就存在问题,"扎克伯格在Baker引用的声明中写道。

Baker认为,让更多模型广泛流通将分散权力,并提高人们使用符合自身价值观系统的可能性。他还表示,Amodei反复发出的AI风险警告可能会加剧对新建数据中心的反对,从而限制实现这项技术潜在收益所需的基础设施。

Amodei拒绝接受在监管与开放分发之间二选一的框架。

"我知道硅谷有一种简化的逻辑:监管等于监管俘获等于权力集中。但我一直认为这是对世界过于简化的描述,"他写道。

他认为,当监管要求基于客观标准时,监管本身能够约束强大的企业。Amodei表示,最好的制度应该"将权力赋予理念而非个人,从而实现权力的分散"。

开放权重允许开发者调整模型并将敏感数据保留在自己的环境中,但随着模型规模增大,这件事会变得越来越困难。尽管小型团队可以租用硬件,但他们仍然面临算力成本与可用性方面的风险。这一问题已有现实映证:近期五家欧洲公司已协议购买尚不存在的AI算力资源。

值得注意的是,Anthropic是为数不多未签署英伟达于7月24日组织的联名信的主要AI实验室之一。该联名信的签署方认为,开放权重通过为客户提供专有API的替代选择,能够促进竞争。

Amodei随后表示,Anthropic并不支持全面禁止开放模型。他将不具备危险能力的开放模型称为"公共产品",但一旦模型能够帮助某人实施严重攻击,他的立场便会转变。现实中的安全失控案例已经表明,即便在权重发布之前,要控制一个能力强大的模型也极为困难。

一旦权重公开,原始开发者就无法收回每一份副本,也无法阻止用户移除其安全限制。Amodei希望达到该能力级别的模型必须经过强制性安全测试,无论以何种方式发布。Anthropic已将这一立场延伸至自身产品之外,近期呼吁最强大的AI实验室踩下刹车。

Amodei否认AI监管必然会保护Anthropic等现有巨头免受竞争的观点。他表示,Anthropic支持的监管框架对前沿实验室提出了更严格的要求,同时豁免规模较小的开发者。

"我们非常努力地提出那些会不利于(放慢)前沿AI公司、同时有利于规模较小竞争者的方案,"他写道。

Anthropic支持加利福尼亚州SB 53法案,该法案将前沿模型定义为使用超过10??次浮点运算进行训练的模型。年收入超过5亿美元的开发者须满足额外要求,包括发布说明其如何测试和应对灾难性风险的框架文件。

Amodei呼吁联邦政策采取类似区分方式。

"我们在美国AI标准与创新中心(CAISI)及白宫所倡导的测试流程,对前沿模型比非前沿模型要求更严格的测试,"他写道。他表示,这种方式可以给挑战者追赶的空间,同时放慢那些已在构建最强大系统的公司的步伐。

他还支持DeepMind首席执行官Demis Hassabis提出的建立类似FINRA机构的AI标准委员会的提案。在该框架下,模型在跨越定期更新的基准阈值后将被归类为前沿系统,同等规则适用于开放和闭源模型。

训练算力为开发者提供了可以预期的门槛,但可能无法捕捉通过微调或外部工具新增的能力。基准测试可以更直接地衡量这些能力,尽管其结果很少能提供清晰的分界线。

OpenAI已构建了一个不希望大多数人使用的模型,以及另一个在安全测试完成前不会发布的模型。这两者都让人提前感受到能力分类将会有多困难。

美国AI标准与创新中心发现,月之暗面的Kimi K3在初步网络安全评估中仍落后于最强大的闭源模型。然而在针对小型企业网络的模拟攻击中,它在10次尝试中有一次完成了全部32步攻击路径。

Kimi K3未能在41个ExploitBench样本中实现任何任意代码执行,而最强大的模型平均可实现约20个。发布前测试的版本在被开发者微调或接入外部工具后,表现也可能有所不同。DeepSeek则凸显了这一问题——其小型模型的表现超过了自家旗舰模型,说明模型规模本身并不是衡量能力的可靠指标。

Amodei的提案将使大多数小型开发者免受最严格规则的约束。监管机构仍需判断这些挑战者何时跨入了前沿领域,最好在其权重发布并被修改至超出原始开发者控制之前作出判定。

Q&A

Q1:Dario Amodei为什么认为开放权重不够解决AI权力集中的问题?

A:Amodei认为,开放权重只是将权力集中从少数AI公司转移到了那些拥有最多算力和芯片的人手中。随着模型规模增大,小型开发者即便获得了权重,也越来越难以脱离大型算力提供商独立运行,因此开放权重并没有从根本上解决权力集中的问题。

Q2:Anthropic对开放模型的态度是什么?

A:Anthropic并不支持全面禁止开放模型。Amodei将不具备危险能力的开放模型称为"公共产品"。但他认为,一旦模型能力达到可能帮助实施严重攻击的级别,就应该接受强制性安全测试,无论以何种方式发布,不能因为是开放模型就绕过这道门槛。

Q3:Amodei提出的AI监管框架如何区别对待大小公司?

A:Amodei支持对前沿AI公司设置更严格要求,同时豁免规模较小的开发者。加利福尼亚州SB 53法案将使用超过10??次浮点运算训练的模型定义为前沿模型,年收入超过5亿美元的开发者还须满足额外要求。这一框架旨在给小型竞争者追赶的空间,同时对已处于前沿的大型企业踩刹车。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
进游戏第一件事!GTA6脱衣舞俱乐部实机画面首曝

进游戏第一件事!GTA6脱衣舞俱乐部实机画面首曝

游民星空
2026-11-18 23:28:03
王刚故意手球帮助海港晋级足协杯决赛,北京国安本赛季四大皆空

王刚故意手球帮助海港晋级足协杯决赛,北京国安本赛季四大皆空

姜大叔侃球
2026-11-20 21:50:09
华为星芒首款新机售价公布:5699元起

华为星芒首款新机售价公布:5699元起

界面新闻
2026-11-20 16:42:26
450亿援乌贷款,还款条件写着“等俄罗斯赔钱”:四国当场掀桌,默茨翻脸了

450亿援乌贷款,还款条件写着“等俄罗斯赔钱”:四国当场掀桌,默茨翻脸了

浯江孤舟
2026-11-20 15:21:39
专家:克里米亚大桥金属拱架坠海,或永久报废,它已被彻底摧毁

专家:克里米亚大桥金属拱架坠海,或永久报废,它已被彻底摧毁

阿尔卑斯瞭望
2026-11-19 18:53:05
许家印在看守所的待遇

许家印在看守所的待遇

年代回忆
2026-10-22 23:21:45
英国向乌克兰提供千枚导弹!美国会计划7.5亿援乌资金

英国向乌克兰提供千枚导弹!美国会计划7.5亿援乌资金

项鹏飞
2026-11-18 20:26:13
一名入伍才三个月的俄军逃兵,在乌东村落枪杀了五名熟睡的乌军无人机操作员,得手后端着枪一头扎进了乌克兰控制的百万人口大城市

一名入伍才三个月的俄军逃兵,在乌东村落枪杀了五名熟睡的乌军无人机操作员,得手后端着枪一头扎进了乌克兰控制的百万人口大城市

扶苏聊历史
2026-10-26 11:49:51
红果短剧再踩雷,一切都结束了!

红果短剧再踩雷,一切都结束了!

广告创意
2026-11-18 18:38:58
社评:多国领导人“感谢中国”,不是一句客套话

社评:多国领导人“感谢中国”,不是一句客套话

环球网资讯
2026-11-20 16:43:17
1982年,翻译唐健生做了一项震惊中外外交系统举动,他杀光大使馆的所有人,瞬间大使馆内血流成河

1982年,翻译唐健生做了一项震惊中外外交系统举动,他杀光大使馆的所有人,瞬间大使馆内血流成河

扶苏聊历史
2026-11-04 17:07:54
眼下的环境,99%的普通人已经不再适合创业了!

眼下的环境,99%的普通人已经不再适合创业了!

职场资深秘书
2026-11-16 14:31:43
俄乌大结局终于要来?最大罪人已浮现,不是美国

俄乌大结局终于要来?最大罪人已浮现,不是美国

古史青云啊
2026-08-25 09:34:41
06年男子打工借宿同学家,被同学母亲一眼看中,意外改变了他一生

06年男子打工借宿同学家,被同学母亲一眼看中,意外改变了他一生

小月文史
2025-03-11 18:44:56
被骂9年“骗子”的贾跃亭,突然把英伟达OpenAI踩在脚下:0.8698分全球第一,是翻身还是换壳讲故事?

被骂9年“骗子”的贾跃亭,突然把英伟达OpenAI踩在脚下:0.8698分全球第一,是翻身还是换壳讲故事?

秋风妃
2026-11-18 21:50:07
深圳APEC费用怎么分,很多人理解错了

深圳APEC费用怎么分,很多人理解错了

趣味萌宠的日常
2026-11-20 01:20:43
1981年,陈伯达被判刑18年,出狱后提出唯一要求,组织:尽管提

1981年,陈伯达被判刑18年,出狱后提出唯一要求,组织:尽管提

瑾瑜聊情感
2025-07-04 18:06:06
“喜欢吃红薯的人天塌了”冲上热搜!薯农:烤出来就是流“油”的;网友:用空气炸锅烤一样很香;专家提醒:这三类人要管住嘴

“喜欢吃红薯的人天塌了”冲上热搜!薯农:烤出来就是流“油”的;网友:用空气炸锅烤一样很香;专家提醒:这三类人要管住嘴

农民日报
2026-11-18 08:48:45
省委书记会场示意我离场,中央调令送达后,全场震惊我赴京城履新

省委书记会场示意我离场,中央调令送达后,全场震惊我赴京城履新

千秋文化
2026-09-26 20:24:16
邝港智口供炸裂:谭方骏喜欢的人是他 蔡天凤再婚是为钱 谭家知情

邝港智口供炸裂:谭方骏喜欢的人是他 蔡天凤再婚是为钱 谭家知情

八卦宝宝
2026-11-19 16:06:38
2026-11-21 04:16:49
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
23593文章数 49740关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

游戏
艺术
旅游
公开课
军事航空

PC Gamer试玩GTA6百小时:双主角出色但任务重复

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版