网易首页 > 网易号 > 正文 申请入驻

最戏剧性转向之一!Anthropic放弃标志性“安全护栏”承诺

0
分享至

Anthropic多年来一直将自己定位为比其他人工智能竞争对手更安全的替代者,如今却放松了其在维持安全“护栏”方面的承诺。这是人工智能行业迄今为止最引人注目的政策转向之一——曾经以“造福人类”为使命的初创公司,正将重心转向盈利和成功。

Anthropic在2023年的《负责任扩展政策》中曾表示,如果人工智能的发展可能带来危险,它将推迟相关研发。但在本周二的一篇博客文章中,Anthropic表示更新规则:如果它认为自己在技术上并未对竞争对手保持显著领先优势,将不再因此推迟开发。Anthropic在声明中称:

“政策环境已经转向优先考虑人工智能竞争力和经济增长,而以安全为导向的讨论在联邦层面尚未获得实质性进展。”

Anthropic一位发言人表示:“从一开始我们就说过,人工智能的发展速度以及该领域的不确定性,将要求我们快速迭代并改进政策。”

分析称,Anthropic这一举动凸显出,早期引导人工智能初创企业的崇高理想,正越来越多地与盈利压力和竞争需求发生冲突。Anthropic正在与一系列强劲对手争夺这一革命性技术的主导地位,包括OpenAI、谷歌、马斯克的xAI公司等。

Anthropic首席执行官Dario Amodei曾在OpenAI工作,并于2020年离职,部分原因是他担心该公司在商业化和发展速度上优先于安全问题。

OpenAI最初是一家非营利组织,并在去年转型为更传统的营利性企业。它还在2024年更新了使命声明,删除了“安全地(safely)”一词,而此前其目标是“确保通用人工智能安全地造福人类”。

OpenAI和Anthropic这两家公司如今都在推动最快于今年进行IPO,希望抓住投资者对人工智能的兴趣。Anthropic最近的估值为3800亿美元,OpenAI正以超过8500亿美元的估值筹集资金。

Anthropic此次政策更新恰逢其与美国国防部之间的争端不断升级。争议焦点在于Anthropic坚持为其Claude人工智能工具的使用设置安全护栏。五角大楼周二威胁称,如果Anthropic未能在周五前接受政府条款,将援引冷战时期的一项法律,强制要求公司允许美军使用其技术。

据媒体报道,在周二Amodei与美国国防部长Pete Hegseth的会谈中,美国官员提出了一系列可能后果,包括威胁将Anthropic认定为供应链风险,并援引《国防生产法》,即使公司不同意,也将强制使用其人工智能软件。

本月早些时候,Anthropic资深安全研究员Mrinank Sharma表示将离职。他在发布于X平台的一封致同事信中写道:“我不断在反思我们所处的处境。世界正处于危险之中。而不仅仅是来自人工智能或生物武器,还有一系列在此刻同时展开的相互关联的危机。”

不仅是Anthropic和OpenAI在人工智能安全措施问题上挣扎。本月早些时候,媒体报道称,马斯克旗下的SpaceX及其子公司xAI正在参与一项秘密的新五角大楼竞标项目,开发语音控制的自主无人机集群技术。这被视为一个颇具争议的转变。此前马斯克曾反对制造“新的杀人工具”。他甚至起诉了OpenAI,因为他原本期望该组织保持非营利性质,并致力于为公众利益打造安全的人工智能。

据此前报道,OpenAI也支持Applied Intuition在无人机竞标项目中的方案,但其参与将仅限于“任务控制”部分,即将战场指挥官的语音及其他指令转化为数字化指令。

Amodei与OpenAI首席执行官Sam Altman之间的冲突,有时也公开化。上周在新德里举行的一场人工智能峰会上,两人与印度总理莫迪并肩站在一起时,其他人都在台上手拉手排成一排,而他们两人则拒绝牵手。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
日媒:日本一女警察在警署等地分别与两名上司发生性行为,3人被处分

日媒:日本一女警察在警署等地分别与两名上司发生性行为,3人被处分

环球网资讯
2026-11-21 16:38:05
突发讣告!张劲松因病医治无效于2026年11月18日逝世,享年61岁

突发讣告!张劲松因病医治无效于2026年11月18日逝世,享年61岁

往史过眼云烟
2026-11-21 11:39:08
特朗普点赞深圳,称美国一些城市“脏得让人恶心”

特朗普点赞深圳,称美国一些城市“脏得让人恶心”

极目新闻
2026-11-21 09:44:24
金价连续跳水,记者走访北京菜百:有人一次买200克,现货售罄后消费者排队办理延期提货

金价连续跳水,记者走访北京菜百:有人一次买200克,现货售罄后消费者排队办理延期提货

大众网
2026-11-21 12:23:05
长安大学回应“14日面试13日出结果”

长安大学回应“14日面试13日出结果”

界面新闻
2026-11-21 20:15:09
天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

情感大头说说
2026-11-20 04:49:19
特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

极目新闻
2026-11-20 18:45:32
原来梁文锋很早就开始做准备了:DeepSeek成功避开英伟达垄断风险

原来梁文锋很早就开始做准备了:DeepSeek成功避开英伟达垄断风险

互联鱼
2026-11-21 00:10:08
就在今天!哈登创造了80年NBA纪录

就在今天!哈登创造了80年NBA纪录

篮球大视野
2026-11-21 12:00:04
红果短剧全面下架,彻底失控了

红果短剧全面下架,彻底失控了

李东阳朋友圈
2026-11-20 10:00:35
特朗普:普京亲口告诉我,如果当年是我担任总统,俄乌战争根本不会爆发;目前谈判的一大困难,是普京与泽连斯基之间存在“深刻仇恨”

特朗普:普京亲口告诉我,如果当年是我担任总统,俄乌战争根本不会爆发;目前谈判的一大困难,是普京与泽连斯基之间存在“深刻仇恨”

大风新闻
2026-11-21 09:33:02
奥斯卡影后当众承认隆胸:是全新的,全C罩杯

奥斯卡影后当众承认隆胸:是全新的,全C罩杯

热搜摘要官
2026-11-20 20:07:43
说出来你都不敢信,美国总统飞一趟中国,花出去的钱足足能买3辆全新的劳斯莱斯!

说出来你都不敢信,美国总统飞一趟中国,花出去的钱足足能买3辆全新的劳斯莱斯!

扶苏聊历史
2026-11-20 15:37:24
A股:紧急提醒2.5亿股民!从后天11月23日起,A股可能再次历史重演?

A股:紧急提醒2.5亿股民!从后天11月23日起,A股可能再次历史重演?

趋势清风侠
2026-11-21 08:44:23
78岁中国体育大佬被查!曾担任篮协+羽协副主席 媒体人曝光内幕

78岁中国体育大佬被查!曾担任篮协+羽协副主席 媒体人曝光内幕

念洲
2026-11-21 13:12:32
突发!黄仁勋掀桌了

突发!黄仁勋掀桌了

小鱼爱鱼乐
2026-11-21 16:08:24
网传零跑A10后备箱被几箱啤酒压穿 官方回应明确了

网传零跑A10后备箱被几箱啤酒压穿 官方回应明确了

快科技
2026-11-21 09:12:08
长津湖战役中,美军发现一整连志愿军官兵冻死在阵地上。电影里表现是美军敬礼,但据当年一名16岁幸存者回忆,美军并没敬礼,而是挨个补枪

长津湖战役中,美军发现一整连志愿军官兵冻死在阵地上。电影里表现是美军敬礼,但据当年一名16岁幸存者回忆,美军并没敬礼,而是挨个补枪

人生录
2026-11-21 00:05:14
A股关键时刻,重磅政策终于落地!大利好来了

A股关键时刻,重磅政策终于落地!大利好来了

星图金融研究院
2026-11-21 15:07:29
火箭主帅怒批球员:打得这么烂,你一场球都赢不了

火箭主帅怒批球员:打得这么烂,你一场球都赢不了

体坛周报
2026-11-21 17:34:09
2026-11-21 20:27:00
华尔街见闻官方 incentive-icons
华尔街见闻官方
中国领先的金融商业信息提供商
155354文章数 2655590关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

李亚鹏谈嫣然天使基金募款:大家每个月捐1块就可以了

头条要闻

李亚鹏谈嫣然天使基金募款:大家每个月捐1块就可以了

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

本地
亲子
游戏
教育
房产

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

亲子要闻

42岁妈妈8个月减重50斤判若两人!“决定把注意力放回自己身上”,中度脂肪肝消失了,情绪不内耗了,和孩子关系也改善了

硬件外媒:《GTA6》PS6版也不能60帧!除非大缩水

教育要闻

这才是数学的真谛,满脑子的椭圆焦点

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

无障碍浏览 进入关怀版