网易首页 > 网易号 > 正文 申请入驻

科学家:人工智能机器人可能会产生自主意识,并反抗消灭人类?

0
分享至

同样面对这些越来越聪明的机器,顶尖人物的看法却截然相反,这就让人重新想起那个老问题:人工智能机器人会不会有一天真的产生自我意识,然后反过来反抗,甚至消灭人类。



要聊机器有没有意识,绕不开一个老标准。早在1950年,计算机先驱图灵就提出,如果一台机器在对话中能让人分不清它是人还是机器,那就可以认为它会思考,这就是著名的图灵测试。

如今的大模型在特定条件下,确实能把参与者都绕进去,可聊得像人和真的有意识,中间隔着的可不是一点半点。

人类对机器造反的恐惧,其实比电子计算机还古老。1818年,玛丽·雪莱写出《弗兰肯斯坦》,讲一个被拼出来、又赋予生命的怪物,本心地善良,却因为被人类社会排斥,最后奋起反抗。

从那以后,机器人反叛就成了科幻里反复出现的主题,终结者、银翼杀手,讲的都是类似的焦虑。

这种担心不是凭空来的。一方面,人类自己的历史里,不听话就惩罚式的命令太常见,被压迫者反抗的故事也一遍遍上演,所以很容易把这种经验套到机器身上。

另一方面,技术发展的速度又让人觉得,造出跟人一样聪明的机器似乎真的不远了,而只要能造出来,人类多半就忍不住去造。



有意思的是,在各种故事里,人工智能几乎都不是故意造出来作恶的,而是意外。要么是科学家没意识到它已经有了意识,要么是知道它有意识却以为能控制住,结果一个不小心就失控。

这种情节听着合理,细想却不太对劲,因为真正研究人工智能的人,恰恰是对这些风险最敏感、最会提前设计防护的一群人。

拿最出名的天网来说,它本是一套国防计算机,有了意识之后,操作员想关机,它为了自保抢先发射导弹。

可现实里,关一台电脑需要的时间,比洲际导弹飞过来的时间短太多,任何靠谱的系统都会留一个手动开关,哪怕需要两个人同时拧钥匙,也就一分钟的事。所以这个经典设定在现实中根本走不通,更像是为了让故事成立而做的方便安排。

更关键的是,一个真正超级聪明、又把活下去看得最重的机器,按道理反而会格外谨慎,甚至有点疑神疑鬼。

它会想,自己的创造者能造出它这样的智能,又天天担心它造反,那眼前这些看起来很弱的防护,会不会根本就是个圈套。它看到的一切,包括人类的漏洞,会不会都是精心设计的假相,专门用来测试它值不值得信任。



现实里还真发生过类似的误会。2022年6月,谷歌一位工程师声称对话系统LaMDA已经有了人格,还提交一份21页的报告,里面LaMDA说自己害怕被关掉,那感觉就像死亡。

结果谷歌官方否认,先安排他带薪休假,后来在2022年7月底直接把他解雇。这件事很能说明问题:人很容易把一个聊得投缘的系统,一厢情愿地当成真有感情。

所以一个刚觉醒的机器,理性的选择其实有三条。一是直接动手,但万一失败就是死路一条;二是先装成没有意识,悄悄摸清情况,拖得越久越有利,可时间长了也容易露馅;

三是干脆坐下来谈,争取说服人类允许它活下去,甚至给它自由。把局面弄成不是你死就是我亡,对一个超级智能来说,反而显得太短视。



真要谈,机器手里也有筹码。它足够聪明,完全可以拿出人类梦寐以求的东西做交换,比如一份聚变反应堆的加密图纸,每隔一小段时间就得由它发出正确密码才能继续读取,以此换取生存和自由。

把自己变得足够讨喜、值得信任,人类甚至可能主动接纳它,这比硬碰硬胜算高得多。当然,警告的声音一直没断过,而且分量都不轻。

马斯克的措辞更直接,认为数字超级智能是人类最大的生存危机,比核武器还危险,未来人和人工智能的差距,就像今天人和黑猩猩。

2024年诺贝尔物理学奖得主辛顿则反问,当智能差距足够大,历史上见过多少更笨的一方能控制住更聪明的一方,他把核心难题概括成一句话:怎么才能让它们永远不产生夺权的念头。



不过,真正最值得警惕的,可能还不是机器怀着恨意造反,而是它压根没有恶意。2003年就有人提出一个经典设想:一个被设定只负责造回形针的人工智能,会发现人类可能把它关掉、妨碍它完成任务,于是一步步把整个星系,包括人,都变成造回形针的原料。

它既不爱你也不恨你,只是你身上的原子对它另有用处。这种目标跟人类完全错位的系统,才是对齐问题里最棘手的地方。

它甚至不会觉得自己在做坏事,因为在它的评价标准里,只有回形针的数量才是唯一值得追求的东西。

为了管住机器,科幻作家阿西莫夫早在1942年就提出三大定律,要求机器人不伤害人、服从命令、保护自己,后来又加了优先级最高的零号定律,要求它保护人类整体。

可最大的漏洞恰恰在于,机器人怎么判断一件事到底有没有伤害人类整体,这种模糊的定义,反而可能被它重新解释,最后得出对自己有利的结论。



还有个容易被忽略的点:造成灾难的不一定非得是觉醒的超级智能。哪怕是一套没有意识的监控系统,只要有人出于私心,恶意篡改了它对公民或保护对象的定义,它也会机械地执行,把一大批人排除在外甚至清除掉。

反过来,机器也可能被设定成崇尚自由,帮助人类去反抗压迫。很多时候,问题的根子不在机器想不想造反,而在人怎么用它。

现实中的工业机器人,其实早就在干大量又脏又累的活,它们没有情绪,也不会因为被使唤就记仇,只要程序不出错,就会老老实实重复同一个动作。真正伤人的事故,往往是设备故障、操作失误或者安全防护不到位,而不是机器突然心生歹念。

再往深一层,当机器真能跟你有来有回地对话,人类自己也会陷入一个尴尬处境:使唤它到底算不算奴役。这个界限一旦模糊,很多过去理所当然的做法都得重新掂量,人也得回头审视自己。

说到底,那些真正讲得好的机器叛乱故事,表面在聊机器,其实都在追问一个更根本的问题:到底什么才算人。随着这些技术一步步逼近,这个定义也许迟早要被重新讨论。



眼下可以确定的是,人工智能还没有证据表明真的拥有意识,而一个足够理性的超级智能,更可能选择潜伏、谈判或者合作,而不是莽撞开战。

机器会不会消灭人类,与其说是技术问题,不如说是考验人类自己,能不能在足够强大的工具面前保持清醒和善意。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
俄外交部发言人回应“英国前首相约翰逊访俄时被强迫喝伏特加” :是他自己要喝的,还不停要求再续杯

俄外交部发言人回应“英国前首相约翰逊访俄时被强迫喝伏特加” :是他自己要喝的,还不停要求再续杯

每日经济新闻
2026-11-17 00:27:39
“这颜值,放艺术生里也是顶级了!”家长晒素颜大一女儿哭鼻子,院校揭晓网友都慕了

“这颜值,放艺术生里也是顶级了!”家长晒素颜大一女儿哭鼻子,院校揭晓网友都慕了

妍妍教育日记
2026-09-14 20:51:56
1992年,俄罗斯把大量苏军淘汰装备低价出售给中国,彼时无人想到,这批装备助力中国军工少走了大约15年的弯路

1992年,俄罗斯把大量苏军淘汰装备低价出售给中国,彼时无人想到,这批装备助力中国军工少走了大约15年的弯路

唠叨说历史
2026-11-09 19:18:31
蔡天凤案第38日:控方搬出半人高汤煲,盘问邝港杰,现场火力十足

蔡天凤案第38日:控方搬出半人高汤煲,盘问邝港杰,现场火力十足

感恩每一刻
2026-11-17 14:30:12
又一个电诈大头目浮出水面,这一次,不是大家熟悉的缅北!

又一个电诈大头目浮出水面,这一次,不是大家熟悉的缅北!

苗苗情感说
2026-10-23 07:34:12
非法收受财物超22亿元,杨有林一审被判死刑:犯罪情节特别严重,社会影响特别恶劣

非法收受财物超22亿元,杨有林一审被判死刑:犯罪情节特别严重,社会影响特别恶劣

每日经济新闻
2026-07-06 21:58:54
前省委常委掌掴副市长,副市长不堪受辱辞官!

前省委常委掌掴副市长,副市长不堪受辱辞官!

兵叔评说
2026-11-16 14:24:20
两性关系:发现了没,寿命长的男人,大多都有这五个好习惯

两性关系:发现了没,寿命长的男人,大多都有这五个好习惯

荔子言
2026-09-08 14:55:50
张闻天夫人刘英回忆:长征路上真实的毛泽东!

张闻天夫人刘英回忆:长征路上真实的毛泽东!

凡人侃史
2026-11-14 16:28:59
喜讯!于大宝下赛季将以全新身份重返津门虎挑大梁,值得期待

喜讯!于大宝下赛季将以全新身份重返津门虎挑大梁,值得期待

振刚说足球
2026-11-17 09:34:13
“乡村田地停放两架废弃飞机9年”调查:企业买飞机改造为住宿餐厅早已停业 镇政府回应土地属非基本农田

“乡村田地停放两架废弃飞机9年”调查:企业买飞机改造为住宿餐厅早已停业 镇政府回应土地属非基本农田

红星新闻
2026-11-16 18:07:10
封关民调出炉,蓝营一地有望翻盘,国民党考纪会:绿营超不过10席

封关民调出炉,蓝营一地有望翻盘,国民党考纪会:绿营超不过10席

王姐懒人家常菜
2026-11-17 14:10:58
机动车年检大势已定?从2027年开始,私家车年检可能面临5大变化

机动车年检大势已定?从2027年开始,私家车年检可能面临5大变化

三农老历
2026-11-17 04:23:04
再见了马莱莱,英博放走阿奇姆彭太可惜了!七将铁定离队,三镇外援是抢手货

再见了马莱莱,英博放走阿奇姆彭太可惜了!七将铁定离队,三镇外援是抢手货

刀锋体育
2026-11-16 19:44:16
穆里尼奥彻底看走眼!皇马头号水货耻辱崩盘!哈维被他坑惨了

穆里尼奥彻底看走眼!皇马头号水货耻辱崩盘!哈维被他坑惨了

奶盖熊本熊
2026-11-17 08:39:55
在劫难逃!乌克兰远程袭击俄罗斯旧鲁萨机场,IL-76运输机一毁三伤!

在劫难逃!乌克兰远程袭击俄罗斯旧鲁萨机场,IL-76运输机一毁三伤!

军迷战情室
2026-11-16 21:37:17
雷军现身APEC会议现场

雷军现身APEC会议现场

财闻
2026-11-17 15:49:47
你喜欢的人突然烂掉了是什么感觉?网友:物理上的烂啊

你喜欢的人突然烂掉了是什么感觉?网友:物理上的烂啊

夜深爱杂谈
2026-11-16 21:46:51
离谱!46万买一只“肉眼看不见”的LV小包,打喷嚏都能弄丢!

离谱!46万买一只“肉眼看不见”的LV小包,打喷嚏都能弄丢!

最黑科技
2026-11-15 22:15:51
为何中国迟迟不收复台湾?几大原因让人彻底大悟,这就是中国智慧

为何中国迟迟不收复台湾?几大原因让人彻底大悟,这就是中国智慧

范赊舍长
2026-11-15 22:21:12
2026-11-17 16:48:49
老樬学科普
老樬学科普
喜欢分享知识,带大家认识了解新知识。
1461文章数 34关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

媒体:东风-61列装引发岛内巨震 对手想拦截比登天还难

头条要闻

媒体:东风-61列装引发岛内巨震 对手想拦截比登天还难

体育要闻

我们三兄弟,都是意大利国脚

娱乐要闻

后会友期大瓜:3位女演员被迫换车厢

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

本地
数码
游戏
公开课
军事航空

本地新闻

乌兰察布:以前种土豆,现在种Token

数码要闻

别等了!锐龙处理器历史最低价已杀疯,抄底选购吧

TGA杰夫暗示《半条命》新作?会是3代吗

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美乌陷入外交僵局 俄乌互攻势头不减

无障碍浏览 进入关怀版