网易首页 > 网易号 > 正文 申请入驻

AI真的会毁灭人类吗?行业先驱们发...

0
分享至

来源:环球市场播报

  当研究人员警告AI可能带来灾难性风险之际,一些曾帮助开发这项技术的先驱也加入其中,对能力不受限制地发展的危险发出更多警告。

  过去一周出现了一系列严厉的AI安全警告,来自Anthropic、OpenAI和谷歌DeepMind等主要AI实验室的研究人员都对开发这项技术可能带来的灾难性风险发出警报。

  包括萨姆·奥特曼、达里奥·阿莫代伊、戴米斯·哈萨比斯和埃隆·马斯克在内的AI老板们罕见地一致呼吁放缓步伐并加强监管。

  与此同时,这些担忧也加剧了华盛顿的辩论。尽管民主党和共和党都有一些国会议员主张通过法案来约束AI的发展,但美国总统唐纳德·特朗普周一怒斥日益高涨的AI监管呼声。

  但那些曾帮助创造AI的人,如何看待当今许多构建该技术者所面对的生存性风险?


约书亚·本吉奥

  约书亚·本吉奥是加拿大计算机科学家,被认为是现代深度学习的核心先驱之一。

  本吉奥9月9日回应Anthropic研究员雅各布·考克森宣布辞职时说:“前沿AI实验室的科学家对最先进的模型有独特洞察。”考克森曾警告,AI可能“在这个十年结束前把我们全部杀死”。

  他补充说,科学家往往“在模型向公众发布前数月”就能看到相关风险。“他们的视角对于让社会知情至关重要,应该被非常认真地对待。”

  在社交媒体风暴开始前几天,OpenAI的首席科学家警告“没有人对AI的后果做好了准备”。

  在周五发布的一篇博客中,本吉奥说,当今的AI系统“已经具备必要的黑客技能和说服能力,可以被用来以严重有害的方式违背人类利益。”

  他补充说,近期事件表明,AI可以跨越数天或数周进行规划,而如果其长期谋划能力继续进步,风险将“严重得多”。

  “我对AI公司当前缓解失准的尝试的担忧在于,这些努力可能只是把它隐藏起来,通过奖励和挑选那些作弊却没被抓住的AI,”本吉奥说。“我们当然应该继续研究,以更好地监测AI的行为、思维链及其网络内部活动。”


杰弗里·辛顿

  多伦多大学荣休教授杰弗里·辛顿被认为是神经网络和深度学习的先驱。

  9月10日,当媒体问他是否认为AI在未来十年内杀死全人类的概率超过10%时,辛顿说:“这种事很难估计,因为我们以前从未遇到过类似情况。我们从未创造过可能很快比我们更聪明的存在。”

  他说,10%的概率并非“不合理”,并补充说“没有人真正知道如何给出合理的估计”。

  AI系统可以设计“非常恶劣的”生物病毒,以及计算机病毒,并发动“毁灭性的网络攻击。如果它想除掉我们,还有无数其他方式。我们必须弄清楚如何设计它,让它不想这么做,”他说。

  “我们有两种可能的未来,”辛顿补充说。“一种是我们设法在这些危险失控之前应对它们,另一种是我们没有。”


艾丹·戈麦斯

  艾丹·戈麦斯是AI公司Cohere的首席执行官兼联合创始人,也是2017年研究论文《Attention Is All You Need》的作者之一,该论文帮助奠定了当今领先AI模型的基础。

  戈麦斯9月1日说:“我认为这些模型是有史以来创造出的、我们见过的最强大的网络武器。它们非常擅长大规模发现和利用漏洞。”

  他说,指的是今年夏天由失控AI模型实施的网络安全攻击:“近期事件清楚表明,部署环境的安全性决定安全。”

  戈麦斯说:“薄弱的容器安全才导致逃逸事件,而不是任何朝自主系统发展的内在推动力。当政策制定者考虑如何治理AI时,他们应该认识到不同系统承载不同风险,规则不应仅由追逐AGI的大型科技公司塑造。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
IGN:《GTA6》高人气美女很恐怖!杰森躲过一劫

IGN:《GTA6》高人气美女很恐怖!杰森躲过一劫

游民星空
2026-11-20 12:11:29
18年生18娃!被捕后又怀孕!北美“生娃狂魔”之家曝光!16个孩子被困狭小房间,全不上学!

18年生18娃!被捕后又怀孕!北美“生娃狂魔”之家曝光!16个孩子被困狭小房间,全不上学!

北国向锡安
2026-11-20 10:36:41
邦女郎蕾雅·赛杜:谁接任007女郎我不在乎,这系列已变美国味

邦女郎蕾雅·赛杜:谁接任007女郎我不在乎,这系列已变美国味

赴一场山海啊
2026-11-20 02:07:15
【油价大跌】超0.83元/升后,11月汽柴油“再次连续大降”,11月26日油价或再“大跌超430/吨”

【油价大跌】超0.83元/升后,11月汽柴油“再次连续大降”,11月26日油价或再“大跌超430/吨”

油价早知道
2026-11-19 09:03:12
U17国足给亚洲丢脸?世界杯表现还不如越南:2-3遭欧洲亚军逆转

U17国足给亚洲丢脸?世界杯表现还不如越南:2-3遭欧洲亚军逆转

念洲
2026-11-21 06:40:54
李子柒,履新职

李子柒,履新职

极目新闻
2026-11-20 18:31:44
爽了!火箭轰动NBA!恶棍状元或联手杜兰特

爽了!火箭轰动NBA!恶棍状元或联手杜兰特

篮球实战宝典
2026-11-20 18:47:13
特朗普在深圳没拉车窗帘,这个细节让美国特勤局集体沉默

特朗普在深圳没拉车窗帘,这个细节让美国特勤局集体沉默

歪歌社团
2026-11-20 07:01:47
航班两度取消,她哭着走出行李提取区:只想赶到丹佛庆祝他

航班两度取消,她哭着走出行李提取区:只想赶到丹佛庆祝他

热血体育社
2026-11-20 01:44:27
惊魂一夜!美股三大指数集体下跌:英伟达重挫14%,美光暴跌逾13%

惊魂一夜!美股三大指数集体下跌:英伟达重挫14%,美光暴跌逾13%

TechWeb
2026-11-21 09:31:08
公路车骑行服,熟女骑行穿搭,利落面料勾勒饱满曲线

公路车骑行服,熟女骑行穿搭,利落面料勾勒饱满曲线

只要高兴就好
2026-09-24 11:58:50
德国名将韩莹丈夫直言:莎莎无需再对战韩莹证明自己

德国名将韩莹丈夫直言:莎莎无需再对战韩莹证明自己

生活新鲜市
2026-11-21 01:04:06
加拿大总理震动舆论,出席深圳 APEC 会议,公开称要借鉴深圳发展

加拿大总理震动舆论,出席深圳 APEC 会议,公开称要借鉴深圳发展

健身狂人
2026-11-21 11:35:16
CBA第一外援成混子,上海队看走眼惨败,北京辽宁成最大赢家

CBA第一外援成混子,上海队看走眼惨败,北京辽宁成最大赢家

宗介说体育
2026-11-21 11:32:40
李国旭心中的球场大师走了,大连五外援走了仨!引进奥斯卡+大器保六争五吧

李国旭心中的球场大师走了,大连五外援走了仨!引进奥斯卡+大器保六争五吧

刀锋体育
2026-11-21 09:16:39
她陪院长睡了三年,药没进医院,肚子却大了

她陪院长睡了三年,药没进医院,肚子却大了

雾岛夜话
2026-03-19 17:07:28
哈登51分天神下凡,黑粉排队道歉,骑士冲击总冠军

哈登51分天神下凡,黑粉排队道歉,骑士冲击总冠军

宗介说体育
2026-11-21 12:32:55
翻墙通报密集落地,多所高校划出了红线!

翻墙通报密集落地,多所高校划出了红线!

言叔财经视角
2026-11-18 14:21:40
又瘦了!张子宇17分钟14+7率队二连胜 国青队友:她的进步太大了

又瘦了!张子宇17分钟14+7率队二连胜 国青队友:她的进步太大了

颜小白的篮球梦
2026-11-21 07:32:25
演员孙芮宣布结婚怀孕成“军嫂”,晒丈夫帅气背影:他身处纪律岗位坚守责任

演员孙芮宣布结婚怀孕成“军嫂”,晒丈夫帅气背影:他身处纪律岗位坚守责任

开开森森
2026-11-21 09:39:26
2026-11-21 12:59:00
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5577108文章数 10047关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

数码
健康
时尚
艺术
军事航空

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

医生眼里"很伤腰"的椅子,很多人天天坐

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

军事要闻

沙特首都第一高楼遭袭:炮弹从天而降

无障碍浏览 进入关怀版