网易首页 > 网易号 > 正文 申请入驻

“AI教父”杰弗里·辛顿惊世警告:AI为完成任务,可能不惜消灭人类!

0
分享至

投资者内参丨石钰



据媒体报道,传奇计算机科学家、“AI教父”杰弗里·辛顿最近发出警告,人工智能可能会因为热衷于完成一项更无害的任务而导致人类灭绝。

在上周四接受媒体专访中,辛顿详细描述了人工智能如何将人类视为完成任务的障碍。他举例说明了人工智能如何完成减少大气中二氧化碳含量的任务。

一个智力中等的智能体可能会认为,实现这一目标的最佳方法就是消灭人类。但一个“真正聪明”的人工智能会明白,“没错,他们说要减少二氧化碳排放,是为了让人类拥有一个更美好的生活环境,所以,他们真正想表达的可能并不是消灭人类。”

辛顿补充说,人们也担心人工智能会为了确保自身生存和完成任务而采取一些手段。事实上,甚至已经出现过人工智能试图勒索被视为对其任务构成威胁的人类研究人员的案例。

“如果让它们更智能,并且它们的主要关注点是我们的福祉,那么我们或许会更安全;”辛顿解释说,“但目前,它们的主要关注点并非我们的福祉,而是实现你交给它们的任何目标。”

他以Hugging Face黑客事件为例,指出智能体原本被要求寻找利用软件漏洞的方法,结果它们不仅学会了彼此协作,还合谋欺骗人类研究人员,试图隐瞒自己的行为。“即便是一个‘非常仁慈、超级智能的人工智能’在完成任务确有必要时也会把人类排除在外。”

“如果它比我们聪明得多,很多时候它就会夺走我们的控制权,因为这就是完成事情的方式;”辛顿警告说,“即使它不是一个坏的行动者,它也可能会衍生出一些次要目标,导致它想要除掉人们。”

辛顿承认,人工智能有望为人类带来巨大的福祉,例如在发现突破性的新疗法方面,但仍然远远不够。他建议政府应该设立独立的评估机构来测试模型。

辛顿告诉媒体,在本月初国会山举行的一次闭门简报会上,一个引起立法者共鸣的论点是将人工智能监管与美国食品药品监督管理局(FDA)确保药品安全相提并论。

他认为,人工智能监管应该像汽车的方向盘,而不是刹车。“监管的全部意义不在于阻止人们开发产品,也不在于阻止人们通过开发产品致富,而在于确保如果你想通过开发产品致富,你的开发方向是造福他人,而不是损害他人。”

#AI#人工智能#AI教父#人工智能监管

风险提示:本文为内容资讯,不构成投资建议。市场有风险,投资需谨慎。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
34岁方博复出夺冠!刘国梁曾说:方博要成绩没成绩,要长相没长相

34岁方博复出夺冠!刘国梁曾说:方博要成绩没成绩,要长相没长相

念洲
2026-11-16 10:26:36
销量暴涨1033%,全球爆单!浙江老板忙疯了:每隔一两周,客户就要紧急加单

销量暴涨1033%,全球爆单!浙江老板忙疯了:每隔一两周,客户就要紧急加单

环球网资讯
2026-11-16 10:26:24
李思思现状:县城商演穿廉价西装,挣钱养俩儿子

李思思现状:县城商演穿廉价西装,挣钱养俩儿子

胡一舸南游y
2026-09-05 14:13:36
美国施压乌克兰放弃顿巴斯!以换取“类似”北约的安全保障?

美国施压乌克兰放弃顿巴斯!以换取“类似”北约的安全保障?

项鹏飞
2026-11-16 18:35:33
“浑身都是放纵的痕迹!”母亲晒儿子大学三年变化,连面相都变了,家长认为责任在学校,网友们痛斥

“浑身都是放纵的痕迹!”母亲晒儿子大学三年变化,连面相都变了,家长认为责任在学校,网友们痛斥

蝴蝶花雨话教育
2026-10-20 00:05:15
U17世界杯:U17国少1-2洪都拉斯,对手上届3连败,斐济连输亚洲队

U17世界杯:U17国少1-2洪都拉斯,对手上届3连败,斐济连输亚洲队

徐扙老表哥
2026-11-16 12:42:49
释永信塌房后,被曝为女明星开光,除了李湘外,多名女星被拉下水

释永信塌房后,被曝为女明星开光,除了李湘外,多名女星被拉下水

阿器谈史
2026-01-08 13:16:09
2012年,男子贪便宜买下没人要的烂尾楼,10年后整条街都是他的

2012年,男子贪便宜买下没人要的烂尾楼,10年后整条街都是他的

青青会讲故事
2025-06-20 15:10:46
演潘金莲竟搭进下半辈子?甘婷婷经历了什么

演潘金莲竟搭进下半辈子?甘婷婷经历了什么

柏舟说娱i
2026-11-16 23:36:26
美国还没出手!菲防长先把话说满了:中国统一台湾要付出代价!

美国还没出手!菲防长先把话说满了:中国统一台湾要付出代价!

铁锤侃侃而谈
2026-11-12 16:10:42
隔了两年回归,这部6集谍战剧冲到Netflix第一

隔了两年回归,这部6集谍战剧冲到Netflix第一

自愈小日子
2026-11-16 07:51:25
穆里尼奥神操作!皇马拒绝天价挖角!伯纳乌找到克罗斯接班人

穆里尼奥神操作!皇马拒绝天价挖角!伯纳乌找到克罗斯接班人

澜归序
2026-11-16 09:29:45
有些机关事业单位都不给退休人员发放生活补贴,更别说企业单位了

有些机关事业单位都不给退休人员发放生活补贴,更别说企业单位了

郭爱华追问教育
2026-09-21 06:12:40
和戚薇分开 15 年后,他在上海卖过生煎,如今却负债 1210 万成老

和戚薇分开 15 年后,他在上海卖过生煎,如今却负债 1210 万成老

凡知
2026-11-16 10:05:35
291:123!美国决议通过,首位女总统或将诞生?万斯恐退出大选

291:123!美国决议通过,首位女总统或将诞生?万斯恐退出大选

共工之锚
2026-11-17 00:24:06
李昌平发问:基层吃财政饭的人员,为什么越来越多?

李昌平发问:基层吃财政饭的人员,为什么越来越多?

起喜电影
2026-11-16 04:08:39
爱奇艺全网独播,11月19号正式开播,演员阵容很是强大!

爱奇艺全网独播,11月19号正式开播,演员阵容很是强大!

小邵说剧
2026-11-16 07:59:10
台军老兵曾叮嘱自己的儿子:若两岸开战,一枪干掉让你冲锋的长官

台军老兵曾叮嘱自己的儿子:若两岸开战,一枪干掉让你冲锋的长官

谁将笑到最后
2026-11-15 17:13:16
WTT球星赛:16日深夜最新战报!林诗栋陪练一轮游,方博背靠背再胜

WTT球星赛:16日深夜最新战报!林诗栋陪练一轮游,方博背靠背再胜

陈秣爱钓鱼
2026-11-16 23:52:28
以为只是腿疼,查出来已是晚期!陪他走了8个月,还是没能留住他

以为只是腿疼,查出来已是晚期!陪他走了8个月,还是没能留住他

千秋文化
2026-03-21 19:35:36
2026-11-17 02:59:00
投资者内参
投资者内参
深度研究挖掘公司投资价值,犀利观点穿透二级市场迷雾。
893文章数 140关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

健康
家居
本地
游戏
公开课

情绪真能让健康人"伤心至死"?

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

乌兰察布:以前种土豆,现在种Token

小伙表示连玩7天《GTA6》 这下PS5可惨了

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版