我们怎样让算法不失控？

科技公司承担道德责任、让算法遵从人类的道德原则，当然是一种让算法不失控的干预。但既有的算法的道德伦理原则太笼统了。比如“做善事”“不要伤害”“保持人类能动性”“透明运行”。你想想，这些原则听起来都没错，但实际操作起来呢？对于无人机飞行员或五角大楼的人工智能专家来说，“无害”意味着什么？对于从难民身上提取生物特征数据的边境警察来说，“做好事”意味着什么？对于数据中间商、信用评分公司、国家安全机构来说，“透明运行”意味着什么？

人们站在不同的立场上，看法各不相同。以至于每一条伦理原则都有可能存在大量互相矛盾的理解。因此，不同的社会主体都进入到有关算法的讨论和质疑当中，通过展示差异和争议，把算法从工程师、程序员、计算机科学家的工作中延展出来，变成是一项社会公共事务，是极有必要的。书里列举了两个令人印象深刻的案例：

第一个案例是谷歌员工的抗议。2018年，《纽约时报》刊登了一封数千名谷歌员工和工程师的信，抗议谷歌协助美国政府开发AI监控技术，用于识别运动中的车辆和其他物体。信中说：“我们认为谷歌不应该参与战争业务”，提及“对有偏见和武器化的AI的日益担忧”，认为谷歌“为协助美国政府进行军事监视而开发技术可能造成致命后果是不可接受的”。

这一事件的波及面很广，开启了一个面向公众的摩擦场景，推动了持续的伦理讨论。第二个案例是“黑客马拉松”。“黑客马拉松”，又叫黑客节或者编程节，指的是一些热爱技术和设计的年轻人聚集在一起，在几十个小时内紧密合作编写程序的活动。它的精髓不只是完成某个创新项目，而是很多人，尤其年轻人，在一段特定的时间内，相聚在一起，以他们想要的方式，去做他们想做的事情。整个编程过程几乎没有任何限制或者方向，程序和算法在这个过程中转化为参与者共同拥有的公共事物。黑客马拉松活动基于年轻人对编码的兴趣，重点却不只是发展技术能力，而是深究技术细节与社会经济的紧张关系，推动青少年作为共同研究人员对全球移动生态中每天生产的数据和算法实践产生集体理解。然而，仅仅针对算法展开公共辩论是不够的。为了让算法不失控，所进行的干预还必须包括问责。什么是问责？在关于歧视性算法和偏见数据的公共辩论中，人脸识别系统始终存在很大争议。曾有公民组织对亚马逊开发并推销给美国安全机构的人脸识别系统进行测试。他们将美国国会议员和两万五千张公开的罪犯逮捕照片进行匹配，结果有28名国会议员被错误地识别为被捕的罪犯。

围绕人脸识别的公共争议引发了社会各界的关注。《算法理性》作者认为，即便公共机构和私人行动者开始着手从各类场所和网站上手动筛选和捆绑图像，以期改善训练的质量，但不同的主体仍然有必要通过不同的方式实现对算法的问责。比如纽约有一家叫做“现在人工智能研究所”（AI Now Institute）的机构，发布了《算法影响评估报告：公共机构问责的实用框架》。这个报告想做什么呢？帮助社区和利益相关者评估公共机构中人工智能和算法决策的使用情况，并确定在哪些情况下算法决策可以被接受。像主动展示人脸识别系统的匹配错误，也是实现对算法问责的一种方式。书中将其称为“通过展示错误问责”：你要让算法承担责任，就必须“让它们经受考验”，让人们看到算法的错误和算法导致的偏见、歧视。

正是由于人脸识别的易出错性越来越广为人知，这项应用最广泛的人工智能技术也受到越来越多的公众监督。与工程师们认为解决算法错误只需技术优化的看法截然不同，学者们则认为，当一项技术还不够成熟和可靠，如果没有适当的保障措施来防止对个人，特别是对弱势群体产生不利影响，就不能安全、公平地运用。此外，一种通过要求“可解释性”来对算法问责。也就是要求计算机科学家贯彻能以非技术方式向用户和其他利益相关者解释算法决策的过程。在一个专业和非专业处于两端的世界里，算法是专业化世界的一部分，专家制定了其中各项指标。通过要求他们给予公众能理解的解释，由此来提升算法决策的透明性。当无法给出解释，或解释无法被接受的时候，我们应对算法有拒绝的权力。在算法无孔不入的世界，“拒绝”的意识，本身也可以作为一种对算法的问责实践。