网易首页 > 网易号 > 正文 申请入驻

"开源权重远非充分解决方案":Dario Amodei回应AI权力集中争论

0
分享至


Anthropic首席执行官Dario Amodei表示,开源权重带给开发者的独立性存在根本性的算力天花板。

"AI在结构上是一种倾向于集中权力的技术,这与监管毫无关系,"Amodei在X平台与投资人Gavin Baker的公开交流中写道。他将这种集中归因于扩展定律,而非政府政策。

"开放权重对此有一定帮助,但远非充分解决方案,因为它只是将集中程度从少数企业转移到了那些拥有最多算力和芯片的人手中,"他补充道。

这场争论始于一个问题:监管究竟让AI更安全,还是让少数公司握有过多权力?最终留给开发者一个现实问题:当算力仍由他人掌控时,拥有模型权重是否真的意味着独立?

Atreides Management管理合伙人Gavin Baker将这场辩论框架化为一个选择:是将强大的模型集中在少数受监管的公司手中,还是在没有同等防护措施的情况下广泛分发?他援引Meta首席执行官马克·扎克伯格的论点:将AI集中在少数所谓负责任的组织手中,本身也会制造危险。

"认为AI如此危险以至于唯一安全路径是极度集中权力,这种观点本身就存在问题,"扎克伯格在Baker引用的声明中写道。

Baker认为,让更多模型广泛流通将分散权力,并提高人们使用符合自身价值观系统的可能性。他还表示,Amodei反复发出的AI风险警告可能会加剧对新建数据中心的反对,从而限制实现这项技术潜在收益所需的基础设施。

Amodei拒绝接受在监管与开放分发之间二选一的框架。

"我知道硅谷有一种简化的逻辑:监管等于监管俘获等于权力集中。但我一直认为这是对世界过于简化的描述,"他写道。

他认为,当监管要求基于客观标准时,监管本身能够约束强大的企业。Amodei表示,最好的制度应该"将权力赋予理念而非个人,从而实现权力的分散"。

开放权重允许开发者调整模型并将敏感数据保留在自己的环境中,但随着模型规模增大,这件事会变得越来越困难。尽管小型团队可以租用硬件,但他们仍然面临算力成本与可用性方面的风险。这一问题已有现实映证:近期五家欧洲公司已协议购买尚不存在的AI算力资源。

值得注意的是,Anthropic是为数不多未签署英伟达于7月24日组织的联名信的主要AI实验室之一。该联名信的签署方认为,开放权重通过为客户提供专有API的替代选择,能够促进竞争。

Amodei随后表示,Anthropic并不支持全面禁止开放模型。他将不具备危险能力的开放模型称为"公共产品",但一旦模型能够帮助某人实施严重攻击,他的立场便会转变。现实中的安全失控案例已经表明,即便在权重发布之前,要控制一个能力强大的模型也极为困难。

一旦权重公开,原始开发者就无法收回每一份副本,也无法阻止用户移除其安全限制。Amodei希望达到该能力级别的模型必须经过强制性安全测试,无论以何种方式发布。Anthropic已将这一立场延伸至自身产品之外,近期呼吁最强大的AI实验室踩下刹车。

Amodei否认AI监管必然会保护Anthropic等现有巨头免受竞争的观点。他表示,Anthropic支持的监管框架对前沿实验室提出了更严格的要求,同时豁免规模较小的开发者。

"我们非常努力地提出那些会不利于(放慢)前沿AI公司、同时有利于规模较小竞争者的方案,"他写道。

Anthropic支持加利福尼亚州SB 53法案,该法案将前沿模型定义为使用超过10??次浮点运算进行训练的模型。年收入超过5亿美元的开发者须满足额外要求,包括发布说明其如何测试和应对灾难性风险的框架文件。

Amodei呼吁联邦政策采取类似区分方式。

"我们在美国AI标准与创新中心(CAISI)及白宫所倡导的测试流程,对前沿模型比非前沿模型要求更严格的测试,"他写道。他表示,这种方式可以给挑战者追赶的空间,同时放慢那些已在构建最强大系统的公司的步伐。

他还支持DeepMind首席执行官Demis Hassabis提出的建立类似FINRA机构的AI标准委员会的提案。在该框架下,模型在跨越定期更新的基准阈值后将被归类为前沿系统,同等规则适用于开放和闭源模型。

训练算力为开发者提供了可以预期的门槛,但可能无法捕捉通过微调或外部工具新增的能力。基准测试可以更直接地衡量这些能力,尽管其结果很少能提供清晰的分界线。

OpenAI已构建了一个不希望大多数人使用的模型,以及另一个在安全测试完成前不会发布的模型。这两者都让人提前感受到能力分类将会有多困难。

美国AI标准与创新中心发现,月之暗面的Kimi K3在初步网络安全评估中仍落后于最强大的闭源模型。然而在针对小型企业网络的模拟攻击中,它在10次尝试中有一次完成了全部32步攻击路径。

Kimi K3未能在41个ExploitBench样本中实现任何任意代码执行,而最强大的模型平均可实现约20个。发布前测试的版本在被开发者微调或接入外部工具后,表现也可能有所不同。DeepSeek则凸显了这一问题——其小型模型的表现超过了自家旗舰模型,说明模型规模本身并不是衡量能力的可靠指标。

Amodei的提案将使大多数小型开发者免受最严格规则的约束。监管机构仍需判断这些挑战者何时跨入了前沿领域,最好在其权重发布并被修改至超出原始开发者控制之前作出判定。

Q&A

Q1:Dario Amodei为什么认为开放权重不够解决AI权力集中的问题?

A:Amodei认为,开放权重只是将权力集中从少数AI公司转移到了那些拥有最多算力和芯片的人手中。随着模型规模增大,小型开发者即便获得了权重,也越来越难以脱离大型算力提供商独立运行,因此开放权重并没有从根本上解决权力集中的问题。

Q2:Anthropic对开放模型的态度是什么?

A:Anthropic并不支持全面禁止开放模型。Amodei将不具备危险能力的开放模型称为"公共产品"。但他认为,一旦模型能力达到可能帮助实施严重攻击的级别,就应该接受强制性安全测试,无论以何种方式发布,不能因为是开放模型就绕过这道门槛。

Q3:Amodei提出的AI监管框架如何区别对待大小公司?

A:Amodei支持对前沿AI公司设置更严格要求,同时豁免规模较小的开发者。加利福尼亚州SB 53法案将使用超过10??次浮点运算训练的模型定义为前沿模型,年收入超过5亿美元的开发者还须满足额外要求。这一框架旨在给小型竞争者追赶的空间,同时对已处于前沿的大型企业踩刹车。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
突发暴跌!超29万人爆仓

突发暴跌!超29万人爆仓

中国基金报
2026-11-21 09:22:17
金价跌破760,北京菜百金条卖断货:有人一次入手85万元,有人高位囤金“扛着”

金价跌破760,北京菜百金条卖断货:有人一次入手85万元,有人高位囤金“扛着”

华夏时报
2026-11-20 22:15:03
笑不活!第一次这么直观地感受到南北差异 ,网友:南方人不敢说话

笑不活!第一次这么直观地感受到南北差异 ,网友:南方人不敢说话

石辰搞笑日常
2026-11-20 00:48:24
0-5!中国U17男足队长回应,西班牙足协官方表态,韩国媒体发声

0-5!中国U17男足队长回应,西班牙足协官方表态,韩国媒体发声

张辱卤说体育
2026-11-21 05:59:05
内行人提醒:“纯棉”和“全棉”不是一回事,很多商家不会主动说

内行人提醒:“纯棉”和“全棉”不是一回事,很多商家不会主动说

一枚大装家
2026-11-19 14:34:04
河北富商相亲发现小23岁对象酷似亡妻,DNA检测后傻眼:怎么可能

河北富商相亲发现小23岁对象酷似亡妻,DNA检测后傻眼:怎么可能

罪案洞察者
2025-07-09 11:51:52
43名美军士兵续签服役,只为抢先玩《GTA6》

43名美军士兵续签服役,只为抢先玩《GTA6》

生活观察员啊
2026-11-20 00:18:27
广东两孩男子晒42岁妻子例假到访消息 全网集体共情

广东两孩男子晒42岁妻子例假到访消息 全网集体共情

奇思妙想生活家
2026-11-21 02:40:38
斯诺克英锦赛揭幕!总奖金破千万创新高,中国34人出战,3次夺冠的丁俊晖屈尊资格赛!

斯诺克英锦赛揭幕!总奖金破千万创新高,中国34人出战,3次夺冠的丁俊晖屈尊资格赛!

刘姚尧的文字城堡
2026-11-21 07:59:57
美国下月举办G20峰会期间,是否会举行第二次中俄美三国元首会晤,外交部回应

美国下月举办G20峰会期间,是否会举行第二次中俄美三国元首会晤,外交部回应

政知新媒体
2026-11-20 15:25:01
警惕!MCN杀猪盘套路:专挑女大学生下手,完不成直播任务就逼陪客抵债

警惕!MCN杀猪盘套路:专挑女大学生下手,完不成直播任务就逼陪客抵债

拍案社会
2026-11-15 10:08:36
普京喊话乌克兰人:站到俄罗斯一边,才是站在历史正确的一边

普京喊话乌克兰人:站到俄罗斯一边,才是站在历史正确的一边

桂系007
2026-11-20 23:53:40
75岁张纪中的妻子回应会不会改嫁,称“我老公再活30年,我75岁了,嫁给谁呀”

75岁张纪中的妻子回应会不会改嫁,称“我老公再活30年,我75岁了,嫁给谁呀”

韩小娱
2026-11-20 16:45:15
乌克兰再袭克里米亚大桥后,布鲁塞尔北约总部会议上出现戏剧性一幕

乌克兰再袭克里米亚大桥后,布鲁塞尔北约总部会议上出现戏剧性一幕

枫叶君评
2026-11-19 22:07:03
希拉里发文炮轰特朗普:指责美总统“助纣为虐”,呼吁国会调查

希拉里发文炮轰特朗普:指责美总统“助纣为虐”,呼吁国会调查

麓谷隐士
2026-11-21 07:11:45
人形机器人遇冷:日租价从3000继续掉到1800,7月后融资普遍下滑

人形机器人遇冷:日租价从3000继续掉到1800,7月后融资普遍下滑

木禾商业财经
2026-11-20 09:26:37
日媒:日本研究引进核潜艇及为“无核三原则”设例外

日媒:日本研究引进核潜艇及为“无核三原则”设例外

新华社
2026-11-21 02:00:02
体操冠军被欠社保91个月!曝光后7小时补齐 官媒:这效率让人不安

体操冠军被欠社保91个月!曝光后7小时补齐 官媒:这效率让人不安

念洲
2026-11-21 08:37:10
“游客乱成一团,又冷又饿,接待很一般”,网友发帖称滞留在三峡之巅景区,景区回应:已增派车辆,会把所有游客安全送出景区后再下班

“游客乱成一团,又冷又饿,接待很一般”,网友发帖称滞留在三峡之巅景区,景区回应:已增派车辆,会把所有游客安全送出景区后再下班

南方都市报
2026-11-20 22:42:14
“骑行30分钟收费15元”,哈啰被网友吐槽“单车刺客”,公司回应:是新车型,可变速,收费标准与普通单车不同

“骑行30分钟收费15元”,哈啰被网友吐槽“单车刺客”,公司回应:是新车型,可变速,收费标准与普通单车不同

南方都市报
2026-11-19 08:30:07
2026-11-21 11:00:49
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
23593文章数 49740关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

手机
本地
亲子
数码
军事航空

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

本地新闻

乌兰察布:以前种土豆,现在种Token

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

军事要闻

沙特首都第一高楼遭袭:炮弹从天而降

无障碍浏览 进入关怀版