1、2023年,每天都是大新闻。
2、GPT-4、Microsoft 365 Copilot、Midjourney V5、Google PaLM API,一颗颗AI领域的重磅炸弹,扎堆引爆。
3、就在昨天,AI界又发生了一件大事儿。
4、什么大事儿?
5、著名企业家埃隆·马斯克等一千多名业界、学界人士联署发表公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统,暂停至少6个月。如果这样的暂停不能迅速实施,政府就应该介入并实施暂停。
6、为什么众多大咖要一起呼吁,大家到底在担忧什么?
AI发展的速度,实在太快了。
7、如果相关的监管和法律没有跟上,甚至连发明者也缺乏有效的控制手段。
在这种条件下,无限制地使用AI,如果出现问题,很可能就会对社会和人类构成深远的风险。
8、例如,如果人工智能系统设计不当或被恶意使用,可能会导致数据泄露、隐私侵犯、社会不公等问题。
另外,随着人工智能的进一步发展,未来可能会出现“超级人工智能”的存在。
这种智能可能会远超人类的智力水平,对人类产生威胁。
9、其实早在之前,马斯克就曾在一次采访中公开表示:
人工智能,远比核武器更加危险。
为什么这么说?
10、马斯克举了一个例子:
人类在修马路时,眼前出现了一个蚁穴,挡住了前进的路。
请问,人类会铲走这个蚁穴吗?
大部分的回答估计都是:
会。
再问:
铲走蚁穴,是因为人类讨厌蚂蚁吗?
是因为人类对蚂蚁有极大的恶意,不得不灭杀吗?
并不是。
人类只是在修路。
现在,请把对象换成人工智能。
如果未来某一天,人工智能有了自己的意识,可以自主设立目标了。
而人类,恰好挡住了它的去路。
你猜?人工智能会怎么做?
人类怎么对待
12、因此,即便是最初设计良好的人工智能系统,也需要受到有效的监管和控制。
不仅要避免设计缺陷和恶意使用,还需要确保人工智能系统的目标与人类价值观相符。
13、人工智能的发展需要更多的跨学科合作,不仅要有计算机科学和工程技术方面的专业知识,还需要涉及哲学、心理学、社会学等多个领域。
14、同时,政府和社会各界也需要更多地关注人工智能的发展,加强监管和规范,确保人工智能对社会和人类的贡献最大化,风险最小化。
15、人工智能是一把双刃剑,既有巨大的潜力,也有巨大的风险。
只有在充分认识到这一点的前提下,才能更好地掌握人工智能的发展方向,避免风险,实现最大的价值。
毕竟,我们不想等到杀死你与你无关到来的那天。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.