网易首页 > 网易号 > 正文 申请入驻

Anthropic承认限制直接加速AI开发的能力

0
分享至

DoNews 11月10日消息 Anthropic公开承认已经采取措施限制了某些可能直接加速AI开发的能力。目前该公司正陷入一场相关的风险评估风波。

11月2日,Anthropic在招股书修订稿S-1/A中提到,根据内部估计及对未来模型的预期,公司可能很快达到《负责任扩展政策》定义的“由AI带来的显著加速进展”门槛。11月5日,非营利性人工智能安全研究机构METR发布的一份评估与Anthropic产生了争议。

METR表示,评估证据来自该机构研究人员在8月12日至10月29日解除到的Anthropic内部数据及相关员工。一些重要结论:在定义明确的任务上,模型能力进步速度可能已达到此前的约两倍。

AECI能力指标(Anthropic Epoch Capability Index,简称为Anthropic综合能力指数)的增长速度估计为此前的1.9倍,95%置信区间为1.5—2.8倍。这里的“两倍”指大致用一年完成过去两年的能力进步,不是模型能力翻倍,也不是员工生产率统一翻倍。

此外,当前加速的大部分可能来自AI辅助研发;目前主要仍是辅助人类,而非完全自主研发。

METR与Anthropic一致的部分是,两者相关研究人员多数仍倾向认为,截至7月15日尚未跨越该门槛;METR也认可当时模型直接造成相关灾难性风险的评级较低。

差异在于,METR认为Anthropic在8月风险报告的公开版本中低估了研发加速程度,对“尚未跨越预警门槛”的判断表述得过于确定。比如,公开报告称某项领先指标加速“不到两倍”,但METR根据内部报告数字推算约为1.97倍,“约两倍”更能传达实际情况。

更大的争议是,METR披露Anthropic删去了该机构认为最有判断价值的大部分证据。Anthropic联合创始人Sam McCandlish在公开回应中承认大量删减使外界更难核查报告,理由是商业敏感性、避免给其他开发者提供加速路线。METR并不认可,称自己不适合替公司商业利益与公众知情权利作最终权衡。

此后,双方仍有龃龉:原计划包含能力研发与安全工作之间的算力分配核验,因Anthropic中途调整范围未能完成。此外,一名参与评估的人员表示拒绝了Anthropic聘用邀约。METR回应称相关工作已由无利益冲突人员复核;后续新政策要求此类情形回避等。

Sam McCandlish认为METR的许多结论与Anthropic的判断一致,AI正在加速公司研究,但幅度难以精确确定。公司计划在未来几周公布自己的研发进步评估、相对于责任扩展政策门槛的位置,以及新的安全措施。

11月9日Anthropic在发布Claude Fable 5.2和Mythos 5.2的同时,公开表示,新模型的一般能力有所进步,但公司在训练过程中限制了某些可能直接加速AI开发的能力,包括加速器内核优化、大语言模型架构改进,使这些方面大致维持在Opus 5.5水平。公司同时称,相关措施没有影响智能体编程、硬件开发等相邻能力。

以上风波时值Anthropic的IPO进程,吸引了较多关注。有关外部评估究竟能够核验什么、公开什么,以及投资者应当对其结论给予多大权重并无结论。

至于Anthropic已经公开声明采取了限制,但限制是否有效、能否约束整体研发加速,仍不能仅凭发布说明认定。投资者关注的是,Anthropic如何把前沿能力转化为商业增长,同时让投资者相信这种增长具备可管理的风险。(完)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美国公司将特斯拉Model 3爆改成MPV,超充、OTA、辅助驾驶都能用

美国公司将特斯拉Model 3爆改成MPV,超充、OTA、辅助驾驶都能用

IT之家
2026-11-21 18:55:05
法国作家Vincent Crouzet胡说八道:所有在法国居住的华人、华侨或者有中国背景的人都是间谍

法国作家Vincent Crouzet胡说八道:所有在法国居住的华人、华侨或者有中国背景的人都是间谍

小徐讲八卦
2026-11-22 08:09:49
重选一百次,状元也只能是我!四大天选状元,詹姆斯勉强上榜

重选一百次,状元也只能是我!四大天选状元,詹姆斯勉强上榜

曼巴体育6
2026-11-22 18:14:53
《GTA6》女主上身正面裸露BUG曝光 特殊触发方法

《GTA6》女主上身正面裸露BUG曝光 特殊触发方法

游民星空
2026-11-22 12:11:17
四川一卤肉饭大叔闭店前给学生们写信:不要删叔叔,叔叔看你们顺利毕业,幸福过一生,我会偷偷点赞;发闭店通知后爆单,一夜没睡坚持做完

四川一卤肉饭大叔闭店前给学生们写信:不要删叔叔,叔叔看你们顺利毕业,幸福过一生,我会偷偷点赞;发闭店通知后爆单,一夜没睡坚持做完

农民日报
2026-11-21 19:13:51
这是毛主席在泰安的旧照,27岁时穷游泰山鞋子竟被贼偷走!

这是毛主席在泰安的旧照,27岁时穷游泰山鞋子竟被贼偷走!

老钱道古今
2026-11-22 08:50:30
媒体造神,从删掉"交易额"开始

媒体造神,从删掉"交易额"开始

鲁先生的笔
2026-11-21 21:51:20
玻璃瓶更干净?法国科学家的意外发现:玻璃瓶里的微塑料反而更多

玻璃瓶更干净?法国科学家的意外发现:玻璃瓶里的微塑料反而更多

抽象派大师
2026-11-22 01:39:07
潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

LULU生活家
2026-11-21 14:45:18
普京向乌克兰军人“喊话”

普京向乌克兰军人“喊话”

参考消息
2026-11-21 15:58:07
美军收到情报,台海一旦开战,解放军600枚超导,让美军有来无回

美军收到情报,台海一旦开战,解放军600枚超导,让美军有来无回

遁走的两轮
2026-11-22 14:00:37
178元一瓶,“APEC晚宴荔枝酒”卖断货,员工:干冒烟了,加班费让人开心

178元一瓶,“APEC晚宴荔枝酒”卖断货,员工:干冒烟了,加班费让人开心

江山挥笔
2026-11-21 11:30:34
“大不了就去送外卖”——年薪50万的高管被裁后真去跑了半年,才发现低处早就人满为患

“大不了就去送外卖”——年薪50万的高管被裁后真去跑了半年,才发现低处早就人满为患

一丝不苟的法律人
2026-11-20 11:43:40
2027年冬天,可能是最近60年最反常的冬天,有三大特点,大家一定要注意

2027年冬天,可能是最近60年最反常的冬天,有三大特点,大家一定要注意

笑谈文史
2026-10-18 20:35:15
妻子升处长后跟我离婚,领完证后我拨通了省纪委电话,她脸色煞白

妻子升处长后跟我离婚,领完证后我拨通了省纪委电话,她脸色煞白

千秋文化
2026-07-14 19:32:44
连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

兵国大事
2026-11-20 16:37:56
一个月打完,詹姆斯188分,库里278分,文班458分,东契奇太夸张

一个月打完,詹姆斯188分,库里278分,文班458分,东契奇太夸张

大西体育
2026-11-21 21:46:18
A股:全体股民做好心理准备了,明天11.23,A股可能再次历史重演吗

A股:全体股民做好心理准备了,明天11.23,A股可能再次历史重演吗

股侠指北针
2026-11-22 17:56:35
H200停售,海外AI算力又被掐断,国产AI芯片迎来“泼天富贵”!

H200停售,海外AI算力又被掐断,国产AI芯片迎来“泼天富贵”!

互联网.乱侃秀
2026-11-21 11:23:44
11月21日,大家期盼已久的2026年养老金,究竟涨还是不涨?

11月21日,大家期盼已久的2026年养老金,究竟涨还是不涨?

虎哥闲聊
2026-11-21 21:35:58
2026-11-22 18:51:00
DoNews incentive-icons
DoNews
不局限于对互联网行业的追踪与探索,更要向未来、向未知的方向迈进。
110690文章数 26972关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

主播私闯果园带货糟蹋一千多斤苹果:切开后全扔地上

头条要闻

主播私闯果园带货糟蹋一千多斤苹果:切开后全扔地上

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

游戏
旅游
时尚
本地
手机

GTA6哪些建筑能进?原来看一眼地图就知道!

旅游要闻

青海西宁冬春文旅推介会走进成都 5条周末精品线路+12条周边游亮相

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

手机要闻

消息称三星正为One UI 9.5引入新版实时通知

无障碍浏览 进入关怀版