现在人们对机器人能量和潜力的担忧远远超过从前，问题不在于科幻电影或者小说构造的类人机器人永远是憎恨人类的，而在于这些机器人可能会有更广阔的视野和更强的潜力。
国内外各界都在关注着这个话题。在两个月前人工智能大会的“双马对话”上，埃隆·马斯克和马云就 AI 和人类的未来展开了辩论。据了解，在今日召开的计算技术领域的年度盛会中国计算机大会（CNCC）上，“人工智能开发的道德边界”也是一个重要的论坛主题。
围绕AI、道德、人类三者的关系这个热点话题，DeepTech 采访了复旦大学生命医学伦理研究中心、复旦大学应用伦理学研究中心主任王国豫教授。她出席 CNCC 大会并带来了《人工智能伦理：从可能性推测走向可行性探索》的演讲报告。
图 | 王国豫在 CNCC 带来《人工智能伦理：从可能性推测走向可行性探索》的报告 （来源：DeepTech）
王国豫从三个方面展开了对人工智能伦理的看法：人工智能为什么是伦理的研究对象？人工智能伦理研究的路径、人工智能的伦理问题的协同治理。她认为，人工智能伦理起源于人们对人工智能技术风险的恐惧和担忧，人工智能的伦理问题不是单个的技术问题，也不是算法问题，而是源于技术系统和人的社会生活系统的交互作用，人工智能伦理应该从可能性推测走向可行性探索。
“人工智能一旦获得了自我意识是否会‘从奴隶到将军’？我觉得如果我们不早作准备，理论上从人对机器人的依赖性角度来看是有可能的”，王国豫认为，“人工智能伦理问题的治理，既不仅仅是伦理学家的事情，也不仅仅是科学家和工程师的事情，需要更多地跨学科的合作。”
以下为专访内容：
DeepTech：你一直专注于技术伦理学的相关问题，应该见证了很多新兴技术的兴起过程以及与之相伴而生的伦理问题。那么你觉得人工智能的伦理问题相比于其他技术的伦理问题有什么特殊性？
王国豫：我以为，人工智能既有其本身特殊的伦理问题，又有其他新兴技术中共有的一些伦理问题。相较于其它新兴技术，当前的人工智能算法与系统具有更高的自主性，更有可能极大地改变人类的未来，因而在伦理问题方面吸引了更多的社会关注。在我看来，人工智能并不是单一的技术，而是新兴技术体系中的重要分支，是推动新一代工业革命的关键使能技术（enabling technology）。人工智能要落地，必须和其他技术相结合，比如人工智能与汽车制造结合，产生了自动驾驶或无人驾驶技术；和自动控制、遥感、机械制造等技术结合产生了智能机器人；和医疗技术结合产生了智能诊疗技术等等。目前人工智能的核心算法强烈依赖于数据驱动，可以说没有大数据技术就没有当前的人工智能技术。因此，某种意义上说，人工智能技术是一种高级的系统性技术或者技术系统。
从这个定义出发，那么我们就可以说，人工智能的伦理问题也不是单一的。它既有由于技术较高的自主性所带来的特殊伦理问题，比如说算法伦理问题，又有其他新兴技术中共有的伦理问题，比如说隐私问题、责任归属问题等。算法与其他技术一样具有价值负载，在算法设计中选择什么参数、优先考虑哪些价值和利益，与设计者的道德敏感性和价值取向有很大的相关性。但与此同时，算法又会放大甚至有可能根据自身的逻辑运算作出抉择。设计者并不能完全主宰算法的运行，也不可能预测更不能保证算法结果在道德上是可接受的。这也是目前争议比较大的智能主体是否可以看作是道德主体的问题。这个问题将随着算法能力的增强愈加突出，也影响着责任的归属和认定。
比如说，当前讨论比较多的自动驾驶如果撞了人，谁该为事故负责任的问题。这与一般的责任认定就不完全一样，因为这里涉及到一方面自动驾驶汽车具有能动性、自主性，方向盘和刹车掌握在智能机器手中；但另一方面，自动驾驶汽车本身又不是道德主体，不可能承担道德责任。于是，我们就要追问谁该为事故负责？是设计者还是自动驾驶车辆的拥有者？是工程师的责任、企业的责任，还是政府和管理工作者的责任？这些都与人工智能的特殊性相关，但这个问题同时又涉及更一般性的技术伦理问题：技术伦理学如何面对技术的不确定性，或者说我们如何与技术的不确定性交往的问题。
图 | 王国豫参加 CNCC 大会并发表《人工智能伦理：从可能性推测走向可行性探索》的演讲报告（来源：CNCC 官网）
王国豫：非常感谢大会给我这个机会，和大家一起分享我对人工智能伦理的一点思考。人工智能伦理属于技术伦理的范畴，虽然正如我们前面指出的那样有它特殊的地方，但是我认为人工智能伦理和其他技术伦理学的分支一样，我们需要面对的核心问题是人工智能技术系统在安全、自由和公正等方面所带来的不确定性问题。选择这个题目的初衷就是希望能够和大家一起探讨我们应该如何在人工智能如火如荼展开的同时，找到一条促进人工智能造福于人类，同时又能够有效地避免人工智能带来的负面后果的路径和方法。
前面我也说到，人工智能伦理问题的治理，既不仅仅是伦理学家的事情，也不仅仅是科学家和工程师的事情，需要更多地跨学科的合作。在这方面，我们复旦大学科技伦理与社会治理研究中心特别期待向人工智能专家们学习，与人工智能专家一起，更加深入地探讨多途径、全方位推动人工智能伦理问题治理的方法与路径。所以，我会在会议期间尽可能地去不同的论坛进行学习。
-End-
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
