网易首页 > 网易号 > 正文 申请入驻

最戏剧性转向之一!Anthropic放弃标志性“安全护栏”承诺

0
分享至

Anthropic多年来一直将自己定位为比其他人工智能竞争对手更安全的替代者,如今却放松了其在维持安全“护栏”方面的承诺。这是人工智能行业迄今为止最引人注目的政策转向之一——曾经以“造福人类”为使命的初创公司,正将重心转向盈利和成功。

Anthropic在2023年的《负责任扩展政策》中曾表示,如果人工智能的发展可能带来危险,它将推迟相关研发。但在本周二的一篇博客文章中,Anthropic表示更新规则:如果它认为自己在技术上并未对竞争对手保持显著领先优势,将不再因此推迟开发。Anthropic在声明中称:

“政策环境已经转向优先考虑人工智能竞争力和经济增长,而以安全为导向的讨论在联邦层面尚未获得实质性进展。”

Anthropic一位发言人表示:“从一开始我们就说过,人工智能的发展速度以及该领域的不确定性,将要求我们快速迭代并改进政策。”

分析称,Anthropic这一举动凸显出,早期引导人工智能初创企业的崇高理想,正越来越多地与盈利压力和竞争需求发生冲突。Anthropic正在与一系列强劲对手争夺这一革命性技术的主导地位,包括OpenAI、谷歌、马斯克的xAI公司等。

Anthropic首席执行官Dario Amodei曾在OpenAI工作,并于2020年离职,部分原因是他担心该公司在商业化和发展速度上优先于安全问题。

OpenAI最初是一家非营利组织,并在去年转型为更传统的营利性企业。它还在2024年更新了使命声明,删除了“安全地(safely)”一词,而此前其目标是“确保通用人工智能安全地造福人类”。

OpenAI和Anthropic这两家公司如今都在推动最快于今年进行IPO,希望抓住投资者对人工智能的兴趣。Anthropic最近的估值为3800亿美元,OpenAI正以超过8500亿美元的估值筹集资金。

Anthropic此次政策更新恰逢其与美国国防部之间的争端不断升级。争议焦点在于Anthropic坚持为其Claude人工智能工具的使用设置安全护栏。五角大楼周二威胁称,如果Anthropic未能在周五前接受政府条款,将援引冷战时期的一项法律,强制要求公司允许美军使用其技术。

据媒体报道,在周二Amodei与美国国防部长Pete Hegseth的会谈中,美国官员提出了一系列可能后果,包括威胁将Anthropic认定为供应链风险,并援引《国防生产法》,即使公司不同意,也将强制使用其人工智能软件。

本月早些时候,Anthropic资深安全研究员Mrinank Sharma表示将离职。他在发布于X平台的一封致同事信中写道:“我不断在反思我们所处的处境。世界正处于危险之中。而不仅仅是来自人工智能或生物武器,还有一系列在此刻同时展开的相互关联的危机。”

不仅是Anthropic和OpenAI在人工智能安全措施问题上挣扎。本月早些时候,媒体报道称,马斯克旗下的SpaceX及其子公司xAI正在参与一项秘密的新五角大楼竞标项目,开发语音控制的自主无人机集群技术。这被视为一个颇具争议的转变。此前马斯克曾反对制造“新的杀人工具”。他甚至起诉了OpenAI,因为他原本期望该组织保持非营利性质,并致力于为公众利益打造安全的人工智能。

据此前报道,OpenAI也支持Applied Intuition在无人机竞标项目中的方案,但其参与将仅限于“任务控制”部分,即将战场指挥官的语音及其他指令转化为数字化指令。

Amodei与OpenAI首席执行官Sam Altman之间的冲突,有时也公开化。上周在新德里举行的一场人工智能峰会上,两人与印度总理莫迪并肩站在一起时,其他人都在台上手拉手排成一排,而他们两人则拒绝牵手。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
香烟突然大降价,不是良心发现,是老百姓彻底觉醒了

香烟突然大降价,不是良心发现,是老百姓彻底觉醒了

流苏晚晴
2026-11-13 22:20:15
45岁仍拍三级片还债,36E巨乳,被称香港妖女,60岁直播翻身破亿

45岁仍拍三级片还债,36E巨乳,被称香港妖女,60岁直播翻身破亿

轩逸阿II
2026-10-17 07:39:17
朋友面试谈薪报价2w,HR非得压到1.9,还反问他:你就差这1000块钱?后来背调时问了他前同事十几个问题,对方最后直接挂了

朋友面试谈薪报价2w,HR非得压到1.9,还反问他:你就差这1000块钱?后来背调时问了他前同事十几个问题,对方最后直接挂了

纯洁的微笑
2026-11-18 21:51:39
金正恩访问越南,乘专列耗时65时40分,为什么不坐飞机?大有讲究

金正恩访问越南,乘专列耗时65时40分,为什么不坐飞机?大有讲究

文史达观
2025-07-05 06:45:03
黄仁勋与英伟达的纠缠:谁想让他走,谁又希望他留下?

黄仁勋与英伟达的纠缠:谁想让他走,谁又希望他留下?

财闻
2026-11-18 16:16:57
曾收到5000份男友申请,“全球最抢手女友”在美国被铐走

曾收到5000份男友申请,“全球最抢手女友”在美国被铐走

启迪你的思维
2026-11-18 17:58:04
蒋介石最大的决策失误:错杀瞿秋白,让国民党失去了最后的人心

蒋介石最大的决策失误:错杀瞿秋白,让国民党失去了最后的人心

宅家伍菇凉
2025-11-19 09:30:03
悲惨!因辅导作业,情绪失控,母女相继跳楼,双双坠亡!

悲惨!因辅导作业,情绪失控,母女相继跳楼,双双坠亡!

闲侃闲侃
2026-06-25 07:43:49
已玩100小时《GTA6》!外媒确信PC版才是"完全体"

已玩100小时《GTA6》!外媒确信PC版才是"完全体"

游民星空
2026-11-18 23:28:03
离谱!美国达拉斯一女警回家走错楼层,把四楼当自家三楼,推门看见26岁黑人男子简正吃冰淇淋,竟直接开枪射杀,辩称以为遇入室盗贼

离谱!美国达拉斯一女警回家走错楼层,把四楼当自家三楼,推门看见26岁黑人男子简正吃冰淇淋,竟直接开枪射杀,辩称以为遇入室盗贼

扶苏聊历史
2026-10-05 16:42:03
果然,“世界是个巨大的佛山”!广东一男子去“佛山加油站”加油,结果跑几千公里去了云南!

果然,“世界是个巨大的佛山”!广东一男子去“佛山加油站”加油,结果跑几千公里去了云南!

佛山电视小强热线
2026-11-18 21:16:32
日本10月份出口同比增长20.5%

日本10月份出口同比增长20.5%

每日经济新闻
2026-11-18 07:56:11
广东这座“巨无霸”城市,潜力才刚开始

广东这座“巨无霸”城市,潜力才刚开始

呼呼历史论
2026-11-18 04:37:41
美军证实第三艘航母已抵达中东,伊朗:若美国不接受伊条件霍尔木兹海峡将继续关闭,即便接受条件,外国军队在波斯湾的存在也必须终结

美军证实第三艘航母已抵达中东,伊朗:若美国不接受伊条件霍尔木兹海峡将继续关闭,即便接受条件,外国军队在波斯湾的存在也必须终结

每日经济新闻
2026-11-17 21:10:14
杨瀚森继续被DNP!卡尔森14分钟1板,亨德森上半场6中0,开拓者主帅诺里回应:我会保持公平,总有球员站出来,那小杨呢?

杨瀚森继续被DNP!卡尔森14分钟1板,亨德森上半场6中0,开拓者主帅诺里回应:我会保持公平,总有球员站出来,那小杨呢?

詹妹侃体育
2026-11-18 17:37:22
俱乐部杯打鱼腩仅得4分,北京顶薪中锋遭自家球迷嘲讽:唯一脓包

俱乐部杯打鱼腩仅得4分,北京顶薪中锋遭自家球迷嘲讽:唯一脓包

弄月公子
2026-11-18 22:51:07
元首外交“深圳时间”开启,密集会晤聚焦哪些重要话题?

元首外交“深圳时间”开启,密集会晤聚焦哪些重要话题?

上观新闻
2026-11-18 12:16:34
2013年,金正哲联手张成泽发动朝鲜兵变,因一细节败露,双遭反杀

2013年,金正哲联手张成泽发动朝鲜兵变,因一细节败露,双遭反杀

阿胡
2025-03-11 13:28:03
北京一男子掏空积蓄,凑500万入股中国人寿,20年后分红吓人

北京一男子掏空积蓄,凑500万入股中国人寿,20年后分红吓人

一刀故事
2025-05-14 13:32:29
11月17日凌晨,俄罗斯报复不隔夜,4枚高超炸北约弹药库,炸大桥

11月17日凌晨,俄罗斯报复不隔夜,4枚高超炸北约弹药库,炸大桥

共工之锚
2026-11-18 11:05:32
2026-11-19 00:04:49
华尔街见闻官方 incentive-icons
华尔街见闻官方
中国领先的金融商业信息提供商
155183文章数 2655510关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

“感谢中方特殊安排” 特朗普又带着高规格代表团来了

头条要闻

“感谢中方特殊安排” 特朗普又带着高规格代表团来了

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

旅游
数码
时尚
本地
健康

旅游要闻

维港夜空告别“幻彩咏香江” 22年光影记忆落幕

数码要闻

铭凡5L台式机T5 Max-388上市:48GB + 1TB,到手价9699元

穿好“长大衣”,这8个细节很重要!

本地新闻

乌兰察布:以前种土豆,现在种Token

医生眼里"很伤腰"的椅子,很多人天天坐

无障碍浏览 进入关怀版