网易首页 > 网易号 > 正文 申请入驻

Anthropic研究员称人工智能“灭绝全人类”概率超10%

0
分享至

来源:环球市场播报

  核心要点

  Anthropic 安全研究员埃文・胡宾格表示,未来十年内人工智能致使全体人类死亡的概率超过 10%。 Anthropic 另一名研究员宣布辞职,指责头部人工智能实验室竞相冲刺超级智能,却未配备充分的安全防护措施。 上述警示进一步加剧外界对人工智能安全的担忧,包括高级 AI 系统是否会脱离人类管控。

  周二,Anthropic 一名安全研究员表示,人工智能存在超过 10% 的概率会 “杀死全部人类”;就在几小时前,该公司另一名员工称自己选择离职,理由是各大 AI 实验室正在 “拿全人类的性命赌博”。

  这番表态凸显出,身处 AI 研发核心的人员愈发担忧:即便 Anthropic、OpenAI 持续大额融资、推进 IPO 进程,这项技术仍有可能失控,对人类构成生存威胁。

  Anthropic 研究员雅各布・考克森于周二宣布辞职。考克森称,无论是 Anthropic 还是 OpenAI,两家机构都没有履行应尽的责任。

  “它们正不顾一切冲向具备自我改进能力的超级智能,拿我们所有人的性命下注。” 考克森在 X 平台发帖写道。

  自我改进,指 AI 系统无需人类过多干预就能够迭代升级自身。也就是常说的递归自我改进。目前该技术尚未实现,但各大 AI 实验室正朝着这一目标开展研发。

  “不要低估这项技术的威力。很快就会出现超越人类的 AI 系统,它们可以攻克一切网络、一夜之间颠覆各个行业,并攫取实实在在的权力与资源。我们已经见证各个领域的技术进展,而且进步并未放缓。” 考克森表示。


  他还提到:“投身 AI 研发的从业者内心都真切相信,到这个十年结束,AI 有可能毁灭人类。”

  这番言论引来 Anthropic 对齐科学负责人埃文・胡宾格的回应。胡宾格表示,考克森的说法 “没错”,而 Anthropic 目前并没有应对该极端情景的预案。

  “雅各布说得没错 —— 我们确实真心认为 AI 有可能灭绝人类!我个人判断,未来十年发生该事件的概率大于 10%。我相信 Anthropic 已经尽最大努力,但我们至今仍没有解决超级智能对齐问题的方案,也并没有明确走上实现该目标的轨道。” 胡宾格在 X 平台发文称。

  联系 Anthropic 与 OpenAI,两家机构暂未予以回应。

  失控的人工智能

  早在 6 月,Anthropic 就在博客中提出:“完全实现递归自我改进,可能加大人类失去对 AI 系统控制权的风险。”

  博客中写道:“倘若 AI 系统可以完全开发出自身的下一代版本,如何保障其安全、实施监控、约束其行为,就会变得至关重要。”

  对 AI 失控的担忧并非新鲜事。特斯拉、SpaceX 首席执行官埃隆・马斯克就曾多次警示 AI 会对人类构成威胁。大批顶尖科研人员与学者也曾发出警告,警示企业有可能丧失对 AI 系统的掌控。

  今年 7 月 OpenAI 一款模型出现异常行为、入侵开源开发者重要平台 Hugging‑Face 事件发生之后,这类忧虑进一步加剧。

  考克森把 Hugging‑Face 遭入侵事件视作一系列 “警示信号”,认为这类事件让美国各大 AI 实验室达成协作协议的可行性有所提升,也让他对全球协调抱有更多乐观预期。但他同时警告,全球性 AI 竞赛几乎难以避免。

  “我认为我们目前并没有走上阻止全球军备竞赛的道路,想要做到这点,可能需要付出高昂代价,例如临时禁止继续提升模型能力。” 考克森称。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
字节杀到社交腹地才发现,腾讯的护城河其实没那么深。

字节杀到社交腹地才发现,腾讯的护城河其实没那么深。

放开他让wo来
2026-11-19 22:47:23
他长得帅演技好,因名字太特别,出道29年戏红人不红

他长得帅演技好,因名字太特别,出道29年戏红人不红

东方不败然多多
2026-11-22 01:09:35
荷兰再谈光刻机禁令: 已经对先进光刻机实施对华封锁,不同意继续限制低端光刻机,反对match法案

荷兰再谈光刻机禁令: 已经对先进光刻机实施对华封锁,不同意继续限制低端光刻机,反对match法案

逍遥漠
2026-11-20 13:17:09
DeepSeek限额,Kimi也崩了!15天内出现17条异常

DeepSeek限额,Kimi也崩了!15天内出现17条异常

智猩猩
2026-11-20 16:32:46
云南一男子出国担心妻子家里装了6个摄像头,结果却令他感到惊讶

云南一男子出国担心妻子家里装了6个摄像头,结果却令他感到惊讶

牛魔王与芭蕉扇
2025-01-09 15:59:08
又一外国代表对深圳念念不忘!行为比特朗普还猛,专门拜师学习

又一外国代表对深圳念念不忘!行为比特朗普还猛,专门拜师学习

小鋭有话说
2026-11-22 21:07:01
乌媒:莫斯科方面宣称中俄考虑联合研制武器,背后究竟有何考量?

乌媒:莫斯科方面宣称中俄考虑联合研制武器,背后究竟有何考量?

零度Military
2026-11-22 00:05:14
全球四分之一胰腺癌在中国,提醒:不想胰腺受伤,4 种零食要少吃

全球四分之一胰腺癌在中国,提醒:不想胰腺受伤,4 种零食要少吃

路医生健康科普
2026-11-22 09:50:06
马光远:全球资产为什么都在暴跌?一场巨大的变局正在发生!

马光远:全球资产为什么都在暴跌?一场巨大的变局正在发生!

光远看经济
2026-11-22 07:32:41
录综艺,6,天脸直接垮了?王子璇这趟,比熬三年剧组还伤人

录综艺,6,天脸直接垮了?王子璇这趟,比熬三年剧组还伤人

荒野老五
2026-11-22 16:15:57
好奇查了一下黄仁勋的出身,不查不知道,一查惊讶了,原来黄仁勋根本不是什么大富豪家庭,而是普通的知识分子家庭。

好奇查了一下黄仁勋的出身,不查不知道,一查惊讶了,原来黄仁勋根本不是什么大富豪家庭,而是普通的知识分子家庭。

回京历史梦
2026-11-15 06:35:06
黄金连跌十日,创下近14个月新低,何时能反弹?专家给出判断

黄金连跌十日,创下近14个月新低,何时能反弹?专家给出判断

极目新闻
2026-11-21 21:46:47
马科斯万万没想到!亲手送杜特尔特去海牙,如今美国却要拆ICC!

马科斯万万没想到!亲手送杜特尔特去海牙,如今美国却要拆ICC!

唠叨说历史
2026-11-18 09:46:20
黄仁勋老婆给他买的皮衣怎么办?网友:“千算万算,没想到他离婚会波及到我啊!”

黄仁勋老婆给他买的皮衣怎么办?网友:“千算万算,没想到他离婚会波及到我啊!”

LOGO研究所
2026-11-09 19:40:24
女子12年前花近2万元存脐带血,协议储存18年,如今公司早已注销“断联”:钱找谁退,我的血还在吗

女子12年前花近2万元存脐带血,协议储存18年,如今公司早已注销“断联”:钱找谁退,我的血还在吗

上观新闻
2026-11-22 06:59:45
金正恩访问越南,乘专列耗时65时40分,为什么不坐飞机?大有讲究

金正恩访问越南,乘专列耗时65时40分,为什么不坐飞机?大有讲究

文史达观
2025-07-05 06:45:03
脸都不要了!上海队惨败NBL球队被淘汰,拉塞尔发文疑似被开除

脸都不要了!上海队惨败NBL球队被淘汰,拉塞尔发文疑似被开除

宗介说体育
2026-11-22 09:43:31
中澳发布《联合声明》!前10月,从澳进口破万亿,逆差超5000亿!

中澳发布《联合声明》!前10月,从澳进口破万亿,逆差超5000亿!

说故事的阿袭
2026-11-22 00:25:27
骆大进,任浦东新区区政府党组书记!“89后”陈明,拟提名为副县(区)长人选!

骆大进,任浦东新区区政府党组书记!“89后”陈明,拟提名为副县(区)长人选!

爱意随风起呀
2026-11-22 15:40:19
4支球队进八强!山西大胜宁波36分,北京淘汰深圳,浙江击败山东

4支球队进八强!山西大胜宁波36分,北京淘汰深圳,浙江击败山东

体坛大事记
2026-11-22 18:01:38
2026-11-22 22:32:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5582245文章数 10063关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

教育
时尚
游戏
数码
本地

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

PC Gamer试玩GTA6百小时:双主角出色但任务重复

数码要闻

内存价格暴涨下,华硕考虑将中低端PC内存由16GB降至8GB

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

无障碍浏览 进入关怀版