网易研究局·大师
·聚焦国际思想市场·解析财经新闻热点·对话国际经济学大师
大师 NO.015
对话中国科学技术大学机器人实验室主任、国际RoboCup Federation理事陈小平
首届未来哲学论坛于11月23日-24日在上海举行。中国科学技术大学机器人实验室主任陈小平接受了网易研究局·大师的专访。陈小平表示，人们对人工智能有太多“脑补”的成分。目前人工智能的发展水平还远远没到挑战社会伦理的程度。中国应该担心的不是人工智能带来制造业工人失业，而是应该担心制造业本身无人可用的问题。
60S要点速读：
1、中国产品的生产特点是低成本，不像国外利润率很高。企业要不搞低成本，人家搞低成本就把你搞死了。
2、互联网经济情况确实非常好，实体经济真的可悲，有的利润不到10%，想要把工人的工资提高，实现不了。
3、如果人工智能真的发展太快，那确实要限制，但如果真的是因为发展快而限制它，相对还是比较容易的，但现在的情况是大量岗位没有人干。
4、人工智能最有希望和最危险的都是这条路：自我进化。进化的方向没办法控制，这是最危险的，现在从理论上看仍然是这样。
5、从技术上讲，人工智能可以实现自我进化。但除非把图灵编码改掉，那时候人工智能可能自我进化，现在还没有到达那样的程度。
以下为采访精编：
网易研究局·大师：您认为目前人工智能的发展水平还没有达到对伦理构成挑战的程度？
陈小平：没到那么严重的程度。首先，现在还是有必要开始做这方面的研究，毕竟做伦理规范是很难的，是长期的工作，不能等到风险已经非常明显才开始做，提前就要开始做一些准备性工作。我们和哲学家是两个领域，共同语言其实比较少，我们双方要达到互相能够理解的程度，这就需要比较长的时间。我觉得现在应该开始做这个工作，所以我们现在开始策划在中国做一系列的研究。
这个研究的短期重点不是放在技术风险，而是关注一些更复杂的问题。目前工人不愿意在生产线岗位上就业，这不是人工智能引起的，是其它原因引起的，但现在已经非常普遍。
过去五年我去了很多生产线，感觉是不一样的。我自己想象，让我一辈子天天拧螺丝我愿意吗？不是因为我是科学家我不愿意，即使我是普通工人我愿意吗？我肯定不愿意。管理层也都是这个看法。现在工人是流动的，工人觉得在手机行业干得不好，到笔记本行业是不是好呢？他们换一个行业工作，不行就再换一个行业。现在有些工人都换了好多行业。
有人说企业是不是应该给工人更高工资？企业给不了，为什么？只有汽车行业是自动化在整个行业规模化应用，别的行业都是少量工种加上一点自动化体系，而不是整个生产体系自动化作业。这是因为中国产品的生产特点是低成本，不像国外利润率很高。企业要不搞低成本，人家搞低成本就把你搞死了。雷军的狠就在于其把低成本做到最低，没有人的低成本能超过他，没有人能把他搞死，只有他把别人搞死。中国的生态就是这样。
现在我们了解到的情况是，除了汽车行业，别的实体经济行业（如手机、笔记本电脑）非常可怜。互联网经济情况确实非常好，实体经济真的可悲，有的利润不到10%，想要把工人的工资提高，实现不了。现在这些企业必须用机器换人，但好多地方机器还换不了人。
在这种情况下，人工智能伦理该怎么做？其实这个问题非常复杂，不完全是人工智能的问题。我了解到的情况是国家要求各个部委都在做这方面的调研，比如机器人未来发展会代替多少工人，但没有人愿意接这个调研的活儿。
网易研究局·大师：他们不愿意干的原因是什么？
陈小平：还是干不了。过去我们没到生产线看，我们的想法就是去国外看，国外做个难的，中国一定要做个比它更难的，不管中国是不是需要。现在不一样，我们现在是从中国的实际需要出发。
如果人工智能真的发展太快，那确实要限制，但如果真的是因为发展快而限制它，相对还是比较容易的，但现在的情况是大量岗位没有人干，马上就面临一个问题：未来十年中国制造还有没有？没有人承担这些制造岗位，怎么能有中国制造？
网易研究局·大师：人工智能未来可以自进化吗？
陈小平：人工智能最有希望和最危险的都是这条路：自我进化。进化的方向没办法控制，这是最危险的，现在从理论上看仍然是这样。人类让人工智能从能力上超越现在，允许它变成一种最危险的可能，这是一种自我进化。但目前短期从技术上看不到这种可能性，现在人工智能的进化不是根本上的进化，只是表层的进化。
打个不恰当的比喻，现在人工智能的进化程度相当于它的“基因”没有改变，甚至从根本上说连“突变”都没有，连“突变”都没有那还有什么危险的进化呢？
“基因”比思维更深。我现在讲的是思维，没讲“基因”，人工智能的“基因”是在我讲思维之前那个阶段研究的。图灵编码是目前人工智能的“基因”，因为所有智能的东西最终都要靠计算机实现，计算机根本的理论模型是图灵机，而图灵机的“基因”是图灵编码。除非把图灵编码改掉，那时候人工智能可能自我进化，但现在没有。“基因”改不了就没有“突变”，没有“突变”我们就没什么可担心的。
网易研究局·大师：也就是说，人工智能的自我进化在技术上还是可能的？
陈小平：完全有可能。所以还是要有限制的。
陈小平简介：陈小平现任中国科学技术大学教授、国际RoboCup Federation 理事、Journal of Artificial Intelligence Research和Knowledge Engineering Review编委等。“女神机器人”佳佳之父。
网易研究局是网易新闻打造的财经专业智库，整合网易财经原创多媒体矩阵，依托于上百位国内外顶尖经济学家的智慧成果，针对经济学热点话题，进行理性、客观的分析解读，打造有态度的前沿财经智库。
【精彩推荐】点击进入网易研究局>>
【精彩推荐】点击进入大师>>
本文来源：网易研究局
责任编辑：
杨泽宇_NF6036
