网易首页 > 网易号 > 正文 申请入驻

《人类简史》作者谈AI:2028年美国总统竞选可能不再由人类主持

0
分享至

·“语言是人类文化的操作系统。从语言中产生了神话和法律,众神和金钱,艺术和科学,友谊和国家,以及计算机代码。人工智能对语言的掌握,意味着它现在可以入侵并操纵文明的操作系统。”

·“社交媒体是人工智能与人类的第一次接触,而人类输了。大型语言模型是我们与人工智能的第二次接触,我们不能再输了。”

“想象一下,当你登上一架飞机时,一般建造这架飞机的工程师告诉你,飞机有10%的可能性会坠毁,导致你和飞机上的其他人死亡。你还会登机吗?

“2022年,在一项调查中,超过700名顶级学者和头部人工智能企业的研究人员被问及未来人工智能的风险。半数受访者表示,未来的人工智能系统有10%或更大几率使人类灭绝(或永久性严重丧失能力)。建立今天的大型语言模型的科技公司,正陷入一场将全人类送上那架飞机的竞赛。”

近日,《人类简史》作者、以色列历史学家尤瓦尔·赫拉利(Yuval Harari)与知名纪录片《监视资本主义:智能陷阱(The Social Dilemma)》的制作人特里斯坦·哈里斯(Tristan Harris)和阿扎·拉斯金(Aza Raskin)共同撰文,呼吁人类争取时间,为应对人工智能世界而升级现有机构(这套机构仍然源自19世纪),并在人工智能掌控人类之前学会掌控它。

《人类简史》作者、以色列历史学家尤瓦尔·赫拉利。

这篇题为《你可以拥有蓝色药丸或红色药丸,我们已经没有蓝色药丸了》的文章发表在《纽约时报》。红色药丸与蓝色药丸(red pill and blue pill)是一种流行的迷因,意思是在令人不安的知识和残酷现实的“红色药丸”与保持愚昧并继续过着平凡生活的“蓝色药丸”之间做出选择。

文章指出,未对产品进行严格的安全检查,药品公司不能向人们出售新药。生物技术实验室不能为了打动股东而将新病毒发布到公共领域。同样,具有GPT-4及以上能力的人工智能系统,其卷入数十亿人生活的速度,不应该超过文化能安全吸收它们的速度。为了主导市场而展开的竞赛,不应该设定部署人类最重要技术的速度。

“自20世纪中期以来,人工智能的幽灵一直困扰着人类,但直到最近,它仍然是一个遥远的前景,是属于科幻小说而不是严肃科学和政治辩论的东西。我们人类的头脑很难掌握GPT-4和类似工具的新能力,更难掌控这些工具发展更先进和更强大能力的指数级速度。但大多数关键技能归结为一件事:操纵和生成语言的能力,无论是用文字、声音还是图像。”文章写道。

“起初是文字。语言是人类文化的操作系统。从语言中产生了神话和法律,众神和金钱,艺术和科学,友谊和国家,以及计算机代码。人工智能对语言的掌握,意味着它现在可以入侵并操纵文明的操作系统。通过对语言的掌握,人工智能正在夺取文明的万能钥匙,从金库到圣墓。”文章继续写道。

对人类来说,生活在这样一个世界里意味着什么?“在这个世界里,很大比例的故事、旋律、图像、法律、政策和工具都是由非人类智能塑造的,它知道如何以超人的效率利用人类思维的弱点、偏见和成瘾,同时知道如何与人类形成亲密的关系?在像国际象棋这样的游戏中,没人有希望能击败计算机。当同样的事情发生在艺术、政治或宗教领域时会发生什么?”作者问道。

“AI可以迅速吃掉整个人类文化——我们几千年来产生的一切——消化它,并开始涌出大量的新文化艺术品。不仅仅是学校作文,还有政治演说、意识形态宣言、新邪教的圣书。到2028年,美国总统竞选可能不再由人类主持。”

这篇文章认为,人类往往不能直接接触到现实,而是被文化所笼罩,通过文化棱镜体验现实。“我们的政治观点是由记者的报道和朋友的轶闻形成的。我们的性偏好是由艺术和宗教来调整的。到目前为止,这个文化之茧是由其他人类编织的。通过非人类智慧产生的棱镜来体验现实会是什么样子?”

“几千年来,我们人类一直生活在其他人类的梦中。我们崇拜神灵,追求美丽的理想,并把我们的生命献给源于某些先知、诗人或政治家想象的事业。很快,我们也会发现自己生活在非人类智慧的幻觉中。”

文章举例称,《终结者》系列电影描绘了机器人在街上奔跑和射击的场景。《黑客帝国》假设要获得对人类社会的完全控制,人工智能将不得不首先获得对我们大脑的物理控制,并将它们直接连接到计算机网络。然而,只要掌握了语言,AI就会拥有它所需要的一切,将人类控制在一个类似母体的幻觉世界中,而不需要向任何人开枪或在大脑中植入任何芯片。如果有必要开枪,人工智能可以让人类扣动扳机,只需要对人类讲述合适的故事即可。

文章指出:“社交媒体是人工智能与人类的第一次接触,而人类输了。第一次接触让我们尝到了随之而来的苦果。在社交媒体中,初期的人工智能不是用来创造内容,而是用来组织用户生成的内容。新闻瀑布流背后的人工智能仍然在选择哪些文字、声音和图像到达我们的视网膜和耳膜,其依据是选择那些将获得最广传播、最大反应和最多参与的内容。

“虽然非常原始,但社交媒体背后的人工智能足以创造出一幕幕幻象,加剧了社会的两极分化,破坏了我们的心理健康,并使民主解体。数以百万计的人将这些幻觉与现实混淆。美国拥有历史上最好的信息技术,但美国公民却无法再就谁赢得选举达成共识。尽管现在每个人都已经意识到了社交媒体的弊端,但由于我们太多的社会、经济和政治机构已经与之纠缠在一起,所以这个问题还没有得到解决。

纪录片《监视资本主义:智能陷阱》揭示了人类日益依赖社交媒体带来的后果。

“大型语言模型是我们与人工智能的第二次接触,我们不能再输了。但是,我们应该在什么基础上相信人类有能力使这些新形式的人工智能与我们的利益相一致?如果我们继续像往常一样,新的人工智能能力将再次被用来获得利润和权力,即使它在无意中破坏了我们社会的基础。”

文章最后强调,人工智能确实有潜力帮助战胜癌症,发现拯救生命的药物,为气候和能源危机提供解决方案,还有无数无法想象的其他好处。“但是,如果地基坍塌,人工智能组装的摩天大楼有多高也不重要了。”

作者发出呼吁:“在我们的政治、经济和日常生活变得依赖人工智能之前,是时候重视人工智能了。民主是一种对话,对话依赖于语言,而当语言本身被入侵时,对话就会中断,民主就会变得无法维持。如果我们等待混乱的发生,再来补救就太晚了。

“我们已经召唤出了一个外星智能。我们对它了解不多,只知道它非常强大,为我们提供了令人眼花缭乱的礼物,但也可能破坏我们文明的基础。我们呼吁世界各国领导人以对应其挑战的水平来应对这一时刻。第一步是争取时间,为人工智能世界升级我们19世纪的机构,并在人工智能掌控我们之前学会掌控它。”

尤瓦尔·赫拉利长期关注人工智能对世界的影响,著有《人类简史》《未来简史》和《今日简史》等书籍,并创办了Sapienship国际咨询公司。特里斯坦·哈里斯和阿扎·拉斯金是“人道主义技术中心(Center for Humane Technology)”的创始人,他们制作的纪录片《监视资本主义:智能陷阱》也被译作《社交陷阱》,揭示了人类日益依赖社交媒体带来的后果:人类社会正面临一个生死攸关的危机,被人工智能、大数据和算法模型所控制,导致出现最近几年的分裂和混乱。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
南大碎尸案告破,刁爱青死亡真相,通灵者揭露:是前世的孽缘纠缠

南大碎尸案告破,刁爱青死亡真相,通灵者揭露:是前世的孽缘纠缠

洞鉴历史
2024-03-28 15:36:10
李铁的父亲李春融:现在度日如年,后悔当初让儿子踢足球

李铁的父亲李春融:现在度日如年,后悔当初让儿子踢足球

零点历史说
2024-01-16 11:54:16
吉林省延边朝鲜族自治州人民检察院原检察长金春山被查

吉林省延边朝鲜族自治州人民检察院原检察长金春山被查

新京报
2024-03-29 10:09:43
王濛首次公开谈原生家庭:母亲恋爱脑,夺冠后才知道女孩可以祭祖

王濛首次公开谈原生家庭:母亲恋爱脑,夺冠后才知道女孩可以祭祖

鑫鑫说说
2024-03-29 15:49:17
现货黄金创历史新高

现货黄金创历史新高

财联社
2024-03-29 00:39:10
人去店空,消失的黄金谁来偿还?

人去店空,消失的黄金谁来偿还?

北青网-北京青年报
2024-03-29 10:50:04
最新!儋州市人大常委会通过一批任免名单,看看都有谁?

最新!儋州市人大常委会通过一批任免名单,看看都有谁?

这里是儋州
2024-03-29 00:25:21
猪队友!大S律师被张兰投诉,盛怒下说露嘴,汪小菲所说竟是真的

猪队友!大S律师被张兰投诉,盛怒下说露嘴,汪小菲所说竟是真的

花花lo先森
2024-03-28 16:11:37
汪小菲要继续当台湾女婿了!快被评论区笑死!

汪小菲要继续当台湾女婿了!快被评论区笑死!

乐观探历史
2024-03-29 13:35:28
纪实:黑龙江一妇女,与兄弟俩发生关系后,将兄弟俩先后杀害

纪实:黑龙江一妇女,与兄弟俩发生关系后,将兄弟俩先后杀害

金哥说新能源车
2024-03-29 12:06:48
岛内媒体刊文表示,中国大陆在对待台湾问题上的态度越来越硬!

岛内媒体刊文表示,中国大陆在对待台湾问题上的态度越来越硬!

寥寥无几溜了
2024-03-29 00:09:04
仁川冠军赛爆大冷!男单首位大种子出局,16强诞生,国乒大获全胜

仁川冠军赛爆大冷!男单首位大种子出局,16强诞生,国乒大获全胜

知轩体育
2024-03-28 21:35:00
他官至副国级,受审时放狠话:谁敢判我死刑!入狱后不久患癌病逝

他官至副国级,受审时放狠话:谁敢判我死刑!入狱后不久患癌病逝

诗意世界
2024-03-20 10:15:03
揭秘!起底小米造车背后的“东莞制造”力量

揭秘!起底小米造车背后的“东莞制造”力量

华商韬略
2024-03-29 11:04:40
放开抡的感觉!44次出手的穆雷:向威少&科比致敬 我快累死了

放开抡的感觉!44次出手的穆雷:向威少&科比致敬 我快累死了

直播吧
2024-03-29 12:49:10
仁川冠军杯战报,两大中国名将出局,球迷呼吁刘国梁落实新决定

仁川冠军杯战报,两大中国名将出局,球迷呼吁刘国梁落实新决定

极度说球
2024-03-28 20:24:17
重磅!中国:今天起,废除!对澳洲5年禁令取消!澳洲总理欢迎,华人终于等到了...

重磅!中国:今天起,废除!对澳洲5年禁令取消!澳洲总理欢迎,华人终于等到了...

澳洲红领巾
2024-03-29 12:43:40
石油系统内部人说,新能源车续航突破2000公里,加油站很慌

石油系统内部人说,新能源车续航突破2000公里,加油站很慌

资本百科
2024-03-28 14:05:38
律师谈“邯郸初中生被害案”:核准追诉决定或在4个月后作出

律师谈“邯郸初中生被害案”:核准追诉决定或在4个月后作出

中国网
2024-03-29 09:23:20
辽宁一女主任被执行注射死刑,短短5分钟结束了她罪恶的一生

辽宁一女主任被执行注射死刑,短短5分钟结束了她罪恶的一生

安妮Emotiong
2024-03-24 19:50:03
2024-03-29 16:32:49
澎湃新闻
澎湃新闻
专注时政与思想的新闻平台。
679265文章数 5023077关注度
往期回顾 全部

科技要闻

雷军:我们是卷王,建议BBA车主感受下时代

头条要闻

张家界疑禁止茶农私自炒茶不办证就查封机器 当地回应

头条要闻

张家界疑禁止茶农私自炒茶不办证就查封机器 当地回应

体育要闻

拒绝为国出战,他是足坛"天选打工人"

娱乐要闻

胡夏被曝有孩子!工作室火速辟谣

财经要闻

张维迎:如何正确理解企业家精神?

汽车要闻

找回久违的开怀大笑 试驾小米SU7 Max

态度原创

本地
教育
旅游
公开课
军事航空

本地新闻

专访|张伟潮:最年轻的龙头专职制造者

教育要闻

初中生“汤圆字体”走红,圆润饱满无棱角,让阅卷老师爱不释手

旅游要闻

赏花不止于“春” 农文旅融合助力乡村

公开课

30岁之前,你要学会的13件事情

军事要闻

乌方声称击落两枚俄"锆石"高超音速导弹 俄方未予回应

无障碍浏览 进入关怀版