博鳌的回答：AI既是第四次工业革命，也是“外星人的来信”

经济观察网 记者 杜涛 田进 实习记者 罗雪丽 1950年，被誉为计算机和人工智能鼻祖的图灵提出了“图灵测试”——如果经过多次测试后，超过30%的测试者不能确定出被测试者是人还是机器，就意味着这台机器具有人类智能。而在74年后的博鳌亚洲论坛2024年年会，图灵的名字再次被频繁提及。

过去一年，从ChatGPT（OpenAI研发的一款聊天机器人程序）的更新迭代到Sora（OpenAI发布的人工智能文生视频大模型）的出现，大量与人工智能（AI）相关的研究快速推进。在今年博鳌亚洲论坛期间，与人工智能相关的分论坛就有三场。中国工程院院士、清华大学智能产业研究院院长张亚勤说：“时隔一年再次回到博鳌，可以看到与人工智能相关的技术产业已发生了翻天覆地的变化。”

只是，随着人工智能的演进，各种担忧也开始浮现。人类开始担心工作被AI取代，担心正在加速进入一个还没有完全想清楚的未来。

加州大学伯克利分校计算机科学系教授斯图尔特·罗素说：“当前所扩展的大语言模型就像一个黑匣子，人们看不透它能满足的目标。在这样的情况下，需要重新思考如何保持对AI的掌控权，如何去证明AI的行为能使人类受益，就像推出一款新药或建一座核电站。”

2017年，在斯图尔特·罗素和张亚勤共同参与的一场关于AI创新的讨论中，斯图尔特就提到AI的发展在当下就需要进行治理，而当时作为百度公司总裁的张亚勤却认为，应该强调AI的创新，不需要太早担心AI。但回过头来看，张亚勤说：“实际上那时已经到了需要考虑AI风险和安全的关键时刻。”

人工智能快速迭代

“大多数人以前可能会说大概到本世纪中叶才会出现科技革命奇点，但现在，我认为它可能在5年后就会出现。”3月26日，首尔大学电子与计算机工程系教授LEE在一场题为“科技革命奇点离我们有多远”的分论坛上说。

LEE介绍，2017年，一项针对人工智能科学家的问卷调查显示，当人工智能变得比人类更加智能和聪明时，科技革命奇点就将到来。并且大多数人预测科技革命奇点会在2045年到2090年之间产生，其中最有可能在2060年产生。

但现在，LEE的观点是，如果以同样的问题再问当时接受调研的人工智能领域专家，肯定会有不同的答案。“人工智能在过去10年发生的巨变超出了科学家和研究人员的预期。我们每天早上都会被一些新的结果所震惊，这是在10年前完全没有预料到的。现在多个国家政府在施政纲领中都会提到人工智能技术的发展，因此科技革命奇点到来的速度会远远早于我们原先的预期。”

在张亚勤看来，ChatGPT诞生时，人工智能的文字对话就已通过了“图灵测试”。“而未来两到五年，图像、视频等方面也都将通过‘图灵测试’。Sora是一个重要的里程碑，但目前还不能说它已经通过‘图灵测试’。”

在技术快速迭代的同时，人工智能也开始深度应用到多个行业。高通公司中国区董事长孟檏说：“人工智能特别是生成式人工智能的发展，除了给个人的工作学习带来改变，更重要的是将改变各行各业的发展。比如在移动通信网络部署中，很多生成式人工智能的应用能够改善网络的部署，减少耗电等。”

近几年，教育行业逐渐成为人工智能应用的重要领域之一。猿辅导集团副总裁、人工智能研究院院长程群分享了一个去年的案例，在四川一所偏远学校，得益于人工智能大模型产品的应用，学生可以直接通过和大模型产品的大屏互动以获得通俗易懂的知识点讲解，不仅缓解了师资短缺的问题，还激发了学生的学习兴趣。

程群表示，人工智能技术的应用能让个人以较低的成本获得高质量的教育，这也是未来人工智能发展的一个重要方向。

荷兰前总理阿霍表示，未来几十年，数千万的中国人会退休。在这个过程中，现有的养老模式、商业模式、政府治理模式无法应对如此庞大的老龄人口。但随着人工智能的出现，这些问题最终都能得到解决。

但人工智能的发展还远未到终点。张亚勤表示：“如果把人工智能的发展比作42公里的马拉松，现在大家才跑到第5公里，接下来大家都有机会。”

中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅同样持有类似观点。他认为，现在的人工智能仍然停留在看似智能的信息处理系统层面，并未具备真正的理解能力。比如它无法真正理解何为“失望”，只能回答提问者一个基于显著性的答案。事实上，科学意义上的人工智能已经几十年没有重大突破。未来要实现真正意义上的人工智能，一定要追求人工智能具备自我意识。

风险等待解决

1950年，在图灵提出“图灵测试”的同时，也抛出了“如果人工智能真的突破了‘图灵测试’，结果会怎样？”近几年，这个问题被政府和学界广泛讨论。

2023年3月，生命未来研究所向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停期限至少为6个月。这封信得到了包括马斯克、图灵奖得主以及苹果创始人在内众多知名人士的署名支持。

在博鳌亚洲论坛上，数位专家和学者在试图讨论人工智能是否会如同科幻电影所描绘的那样，萌发出自我意识，并最终将人类取而代之。

10年前，斯图尔特·罗素就曾预言，通过“图灵测试”的机器会拿走人类控制权，然而这一警告在当时并未引起人们的重视。他把那时人类对待人工智能的态度描述为一个高级外星文明给人类发了一封信说：“当心，30年后我们就会来了”，而人类的回复是：“人类现在不在办公室，等回到办公室再回你的邮件吧”，后面还附上了一个微笑的表情。

斯图尔特·罗素说：“《暂停大型人工智能研究》的公开信就像那封高级外星文明发给人类的信，但现在人类的态度是直接回到办公室，并阅读了这封邮件。公开信发布后，各国陆续开始就监管AI出台相关措施。”

2024年2月2日，欧盟国家就《人工智能法案》立法正式达成协议，这一法案也成为全球首部在人工智能领域实施全面监管的重要法律文件。在新规则中，立法者同意严格限制面部识别技术的使用，并明确禁止利用人工智能进行“社会评分”以及设计用于“操纵人类行为”的系统。2023年7月6日，科技部战略规划司司长梁颖达也表示，人工智能法草案已被列入国务院2023年立法工作计划，提请全国人大常委会审议。

“我们要提前研究AI可能带来的风险，即使几十年之内都不一定能够找到答案。比如，如果人工智能的水平超过人类，人工智能看待人类是否会像人类看待蚂蚁一样。当人类都不去保护当代的其他生命，未来人工智能会有理由保护人类吗？”斯图尔特·罗素表示。

阿霍表示，人工智能并不是人类历史上首次发明出来的“危险”。人类曾经发明过一系列危险的事物，原子弹便是其中一个例子。因此，无论人工智能的破坏性有多大，都应该承认它的确是科技的进步。“我们就算不了解科技，也应该了解人性，才能更好地预防可能出现的风险。”

有人悲观，有人乐观。孟檏表示：“我不太相信人类创造的人工智能把自己完全替代。相反，我更担忧的是，一部分掌握人工智能技术的人类会利用这些技术占其他人的便宜。因此，我认为未来应该快速且广泛地普及人工智能技术，确保让所有人都能够掌握这些技术。”

程群认为，未来强大的不是AI，而是掌握了AI的新人类。他说，过去几年，众多企业和个人从AI技术中获益。未来，AI并不会替代人类的工作岗位，而是让岗位结构发生变化，为此政府和各行各业需要有更充分的准备。

关于AI的发展，张亚勤说自己是个乐观主义者。“我认为人类不仅有发明新技术的智慧，也有引导技术走向的智慧，我们可以一边发展一边治理。但从现在开始，我们在推动创新、发展AI的同时，一定要想到治理。”

版权声明：以上内容为《经济观察报》社原创作品，版权归《经济观察报》社所有。未经《经济观察报》社授权，严禁转载或镜像，否则将依法追究相关行为主体的法律责任。版权合作请致电：【010-60910566-1260】。

杜涛经济观察报部门主任

财税与环保新闻部主任
长期关注宏观经济，财政、货币政策领域。主要关注财税、金融、审计、环保、PPP、大工业等相关方向。