人类会被AI边缘化甚至取代？技术一定战胜人类？专家热议

AI作画、深度伪造、自动驾驶...无可否认地，人们逐渐走入了一个“高度智能”的时代。然而，在探索着新奇的科技世界的同时，各种新、老问题也时常在时代大幕下隐现。除了已“老生常谈”的数据鸿沟、算法歧视等伦理问题外，AI是否会替代人类、人类是否能掌控科技发展的方向盘等新问题也出现在了大众视野中。

9月2日，在世界人工智能大会的分论坛“数字时代的技术时代”上，来自各界的专家们也在圆桌上对这些问题作出了讨论。有专家认为，随着技术的发展，人类大概率将会被边缘化或取代化，因此，需要通过技术、伦理、立法等方式对其加以规范。

人工智能或将边缘化人类？

近日，AI作画屡屡在社交媒体中掀起讨论的声浪。面对着AI制作的精良画作，不乏有画师们担忧自己的饭碗是否不保。

而绘画只是更大图景中的一角。会上，阿里巴巴集团副总裁高红冰表示自己同样担心AI大概率会将人类边缘化或取代化——，他认为，技术的进步呈现加速的发展状态，在累积到一定阶段的时候，技术确实会产生一个人类意想不到的新世界。

“人类的地位一定会被挑战”，高红冰表示，“这个（技术的）系统跟人造的系统不同，这（是）系统自己在演化，所以我们人怎么去对待它，我们有没有边界，有没有‘踩刹车’的地方？这个是我可能最关注的一个地方。“

对于是否有“踩刹车之处”，北京大学中国社会与发展研究中心主任邱泽奇有着类似的担忧。，他指出，目前的发展面对着技术失范这一“最大难题”：。技术的核心追求在于效率，但追求效率究竟为何？这一“初心”常常在追求效率的进程中被遗忘。

因此，邱泽奇认为，如果仅仅将技术视作好玩的东西，穷尽其前沿上的可能性，那么技术可能变成人类的主人。“不是说技术能不能战胜人，我觉得技术一定会战胜人。”

面对着这样的问题，在清华大学苏世民书院院长薛澜看来认为，为解决上述问题，人类需要控制技术发展的能力。但与此同时，人们还却面临对着缺乏统一的伦理以规范技术的问题，“生命科学里存在着大量的科技伦理，但对于这方面技术的伦理规范究竟是什么？大家没有什么共识。其实很多这些领域很前沿的专家们不知道有科技伦理规范的存在，即使存在的话，大家对于很多规范有不同的意见。”

而在缺乏意识和共识的情况下，行业的发展究竟是福还是祸呢？薛澜认为这“很难说明白”，“就像贺建奎（基因编辑婴儿当事人）事件一样。”

技术发展的速度远超行政手段治理体系形成的速度

那么，对于新兴科技应该如何在保护其发展的同时，对其进行有效治理和约束呢？

对此，薛澜提出了“敏捷治理”的思路，他指出，技术发展的速度远超治理体系形成的速度，以至于很有可能“等到专有法律出台之日，即是这一法律的无用之时”。因此，政府亟需调整其治理方式。

他认为，相对于现在企业和监管方更近似于“老鼠和猫”的关系，两者应当形成利益共同体，企业和政府共同解决“不知道技术应用后会产生什么问题”的共同无知情况。

此外，政府应当将目标指向公共利益，保证在创新带来收益的同时对于公众带来最小风险，“所以政府要把这些基本的目标，包括我们讲效率公平正义等等这些要把它综合起来，在决策过程中充分的应用。”此外，政府治理工具可更多地应用“软法”，例如资源性规则和行业标准，以补全“硬法”（即出台的法律法规）在落地上可能的滞后，同时规制企业的行为。

高红冰同样认为，行政手段的治理可能跟不上技术发展的速度，“比方说病毒、无人机，其实在今天的数字世界里，个人在这个方面的能力是极其强大的。也就是说有些技术高手可能他可以用这种武器，可能对一个群体、社会造成重大危害，这种概率越来越高。”因此，需要用技术的手段解决技术带来的问题，在这一基础上加之以行政规则约束。

邱泽奇认为，技术的治理存在着紧迫感：从人类社会的大背景中看，数字技术和其治理能力的发展存在国际中的“竞速”，“主权国家作为一个基本治理单位存在，你不发展人家就发展，就存在一个发展落后的问题了。”

至于技术带来的发展不均衡、不平等问题，邱泽奇认为，可以从让人们适应技术迭代的速度开始入手解决：，“第一个是企业尽量延展技术外在的生命迭代周期。让我们的技术即使快速迭代，但其使用的基本技能尽量延长，避免人们总要追赶新技术。，第二个是社会中应当构建一个大家随时可以学、很容易学、够学的环境，提高全民的素质素养。”

采写：南都记者胡耕硕