算法无罪？技术真的是中立的吗？

编者按

从被威胁的个人隐私，到，关于技术伦理的争议从未停止。技术是中立的吗？当技术给社会带来了负面影响，责任是在于使用者，还是，发明者也难辞其咎？今天分享的文章，为你呈现正反两方的观点，期待你在阅读后，形成自己的思考。

针对当下公共生活中的复杂话题，呈现不同角度的多元观点，这也是C计划的特色栏目——面面观自创办以来的写作理念。欢迎你点击查看往期，，实现更有效的网络对话。

/ medium /

技术就在我们身边。它既无处不在，如空气一样自然，但又在其他领域引人注目，吸引着世界的注意力。

从陶瓷杯到核武器，从床垫的弹簧到沉浸式的虚拟世界，从纸和铅笔到智能算法，技术的范围是如此宽广，从最基础的东西到近似魔法的东西，无所不容。

但即使是最基础的技术，它们也曾经像魔法一样。杯子和弹簧在今天可能不会引起太多的讨论，但如果没有它们，生活将会完全不同。也许人工智能、虚拟现实和其它发展中的技术也会走上类似的道路。

技术的发展引出了一个哲学难题——道德价值：我们能说一项技术是好，是坏，是中性的吗？我们的价值观是根植于我们所创造的技术中，还是直到有人决定如何使用该技术之前，它都没有价值观呢？

这个问题的答案看起来微不足道，但它将影响到我们监管技术的方式，以及谁应该为使用技术的后果负责。随着我们向智能计算机、大脑接口和生物黑客等领域开拓前进，这些道德问题的意义变得越来越重要。

我们来看看一些观点。

枪不杀人，杀人的是人

赞成技术中立的一个重要论点是“价值中立论”：一项技术本身并不具有任何道德价值，只有当人使用它时，才具有价值。

（link.springer.com/chapter/10.1007/978-94-007-7914-3_6）

以下是主要观点：

1、价值难以识别

约瑟夫·皮特（Joseph Pitt）在他的文章《枪不杀人，杀人的是人》中指出，为了让技术包含或体现价值，这些价值应该是可识别的，但事实并非如此。

他以一个大学足球场为例。它可以是威望或自豪感的来源，是大学一切美好的象征，它也可以代表着学生的梦想和愿望。但所有这些价值都是人所赋予的，而不是体育场本身的价值。

想象一下，外星人在太空中发现了一把刀。它们会如何看待这把刀？它们会从中识别出和我们一样的价值吗？它们会发现任何价值吗？退一步说，它们应该如何开始寻找这种价值呢？

再想象一下，亚马逊丛林的一个小部落的土著偶然发现了一台iPad，他们会怎么看待它呢？他们眼中的iPad，会和硅谷的程序员眼中的一样吗？

/《上帝也疯狂》（The Gods Must Be Crazy）剧照。© Revolve /

2、不同的人，不同的价值

工具只有被一个有价值的生物所拥有时才有价值，所以这取决于这个人的价值体系。在这个体系中，如果人或环境发生变化，价值也会发生变化。

如果一个在球场踢球的学生腿折了，他的未来也因此毁于一旦，那么他看待球场的方式将可能急转直下。尽管球场没有任何物理变化，其他学生眼中的球场的价值也没有任何变化。

当一项新技术被介绍一个新的群体时，尽管技术可能是为特定目的而开发的，但它的价值取决于每个人使用时的功能和目的。

如果我们的工具的价值取决于它们所处的系统和解读它们的头脑，那么我们怎么能说工具中蕴含着任何价值呢？这些价值难道不应该保持一致吗？

3、用途决定价值

我们行动的后果和结果，这些是具有价值的，但我们使用的工具没有。

刀就是刀，是一个中性的物品。直到有人用它来削水果皮或在背后捅人，它才会有道德价值。

/ Rebloggy /

这个观点重点关注终端用户。他们的欲望、需求和目标决定了技术的使用方式，而使用方式又决定了技术的价值。

这种观点也表明，终端用户要对技术的道德使用负责。我们不能责怪枪支射杀了人，即使枪支让凶手更方便。枪是中性的，人不是。

总结

技术是工具。我们使用工具，工具不会使用我们。我们把自己的想法加到技术身上，而不管其本身的意义是什么。我们掌控着一切，我们可以自由地使用我们想要的工具，这是我们的选择。对于那些做出错误选择的人，他们要为自己的行为负责。

现在是反方论点：

当你只有一把锤子时，

所有的东西看起来都像钉子

“我称它为工具的法则：给一个小男孩一把锤子，他会发现他遇到的一切东西都需要敲打。” ——亚伯拉罕·卡普兰（Abraham Kaplan）

反对价值中立论的人认为，我们的价值观已经融入到我们设计和建造的一切中。

这个观点并不关注人们在如何诠释和使用工具，而是更仔细地审视发明者和发明，这些技术的特点如何影响人们，以及为什么我们识别价值的能力并不是必须的。

论点如下：

1、技术是有目的的

与随机杂乱、物竞天择的进化过程不同，技术是发明者意志的产物，是为了达成某种目的而形成的。它在诞生前就已经被概念化，被谨慎思考过了。每一个新的创造都是为了满足需求，实现目的，成为有用的东西。

我们的价值观决定了技术，也决定了发明者所期望的，未来用户所持有的价值观。虽然用户的实际价值将决定技术的使用方式。但事实上，基于我们的价值观所以技术才存在，两者不可分割。

2、决策揭示价值

每一个决策和选择过程都会揭示我们的价值观。每当我们把某个选项设成默认，或选择性地显示或隐藏一些信息时，我们就已经做出了价值判断。把所有的东西都平等地展示出来，这是不可能的，因此总会有偏差。（看看这篇文章先举出哪一方的观点呢？）

让“立即购买”按钮占满屏幕，用晦涩的语言写下条款和条件，在品牌识别中使用红色而不是蓝色，这些都是反映价值观的决策。但仅仅因为它们反映了价值观，并不意味着人们会认同或分享这些价值观。

3、不是所有价值都是可见的

有时，价值是非常明确的，比如在产品上贴上“绿色环保”或“需家长指导”的标签。无论你是否使用手机上的密码功能，它显然是为安全而设计的。为什么你的遥控器上有一个EPG按钮，你可能不明白，但它的存在肯定是有原因的，而这个原因反映了设计师的价值观（或者设计师预期中的用户的价值观）。

/ eCRATER /

无论人们是否能识别出这些价值，并不意味着这些价值不存在。反过来想一想外星人在太空中发现一把刀的这个情景：假设我们发现了一个漂浮在太空中的外星装置，这个东西显然是经过设计的，而不是自然产生的陨石。除了想知道是谁建造的，我们肯定会对它是什么以及它的用途非常感兴趣。

如果我们不能理解设计它的外星大脑，那么要找到它的目的将非常困难。但技术的发明一定是有原因的，而这个原因暗示了价值。

4、有限的使用范围

技术是有方向的。它增加了我们的选择，或者让我们更靠近某个特定的方向。

枪支可能有很多不同的用途。我们甚至可以将其用作镇纸或门挡。但我们大多数人都知道，这不是我们发明枪的原因。枪支是为特定的目的而开发的，我们一般也是按照这个目的来使用的。

/ Imgur /

枪的用途并不是无限的。我们不能用枪来开车或看电影。某些用途虽说是可以实现的，但却不理想。也许你可以用枪来切洋葱，但刀会更好。

有限的理想用途范围表明了发明者的价值观所在。枪擅长杀人或在某些东西上打洞。如果你需要从远处刺穿东西，你会先选枪，而不是门挡，除非你的挡板是一把枪。

5、最终技术框定了现实

“我们成为我们所看到的东西，我们塑造工具，此后工具又塑造我们。” —— 马歇尔·麦克卢汉（Marshall McLuhan）

一项技术出现的时间越长，传播的范围越广，人们对它的关注就越少，它就越有可能融入我们生活的背景，变得不足为奇，进而成为我们谈论现状时的常态。

当我们太习惯于现状时，就需要付出更大的努力，才能看到其他可能性。当我们太习惯于某事时，就需要更有创造力的头脑才能从别的角度来看待它。

以下是与此论点相关的两条研究方向：

功能固着（Functional fixedness，功能固着是指人把某种功能赋予某种物体的倾向，认定原有的用途就不会再去考虑其他方面的作用——译者注），这凸显了人们在另辟蹊径时遇到的困难。此外，定势效应（Einstellung effect）描述了当我们已经学会用一种方法解决这个问题，那么我们将很难意识到其实有更好的方法。

上述两种理论都表明，我们都会陷入一种特定的思维框架。我们经过努力学习，然后我们所学的东西就变成了自动的、僵化的。这并不是说我们不能进行创造性的思考，打破常规，但随着工具及其用途变得越来越常见和熟悉，从不同的角度看待它们就变得越来越困难。

总结

技术由人创造，为人服务。我们的价值观决定了我们创造的东西以及其用途。即使用途不完全和最初的设计意图相吻合，也不会相差太远。虽然人可以创造性地使用科技，超越其设计意图，但总有那么一些功能，表明了这项技术最初的目的，因此也表明了其价值观。随着时间的推移和人们对它越来越了解，这项技术及其功能也就变得愈发根深蒂固，以至于人们几乎不会去思考，更不用说质疑了。

责任的负担

我们不是无助的技术奴隶，我们是决策者，我们珍视自己的选择自由。然而，人们往往做出了糟糕的决定，却不知道有某些因素在影响自己。

虽然每个人都可以决定如何使用某些技术，但在集体层面上，技术将我们推向了非价值中立的方向。

如果我们认为技术是中性的，那么当技术改变世界时，我们就不能去指责技术的发明者。那么问题来了，有没有公司或个人因为他们的发明而受到了赞扬呢？为什么发明者只能接受赞美，而不能接受批评呢？如果我们认同这个观点，技术发明者既不需要赞美，也不需要批评。那么，他们的作用到底是什么呢？

1986年，罗伯特·J·希勒（Robert J. Welchel）在《IEEE技术与社会》（IEEE一般指电气与电子工程师协会，简称IEEE。——译者注）杂志上写道：

“这种道德中立的基础是将技术纯粹视为一种手段（提供工具供社会使用），其目的（技术的实际用途）则在工程领域之外；这一立场还假设，可用的手段对所做出的结果没有因果影响。如果技术真的只是一种手段，那么工程就是一个二等职业，因为我们只是力量手中的一枚棋子。我们的清白索价斐然：要想无辜，我们就必须无能为力。”

（ieeexplore.ieee.org/document/5010049）

认定创造者难辞其罪，技术有相应的价值观，这并不会让我们更容易弄清哪些技术体现了良好的价值。为此，我们必须就什么价值观是好的达成一致，并为违反这些价值观的行为设定一个标准，然后我们才能决定如何应对这些违反行为。

这个问题的难点在于我们无法预测未来。如果没有设计师、发明者或公司，能够预测他们所建造的东西的所有未来收益和成本，他们怎么可能确保他们把良好的价值观设计进了技术里呢？

但这是一个古老的哲学问题：如果我们永远无法预知自己行为所有的后果，那么我们又如何分辨好坏呢？既然这个问题并不能阻止我们在生活的其他方面做出道德选择，那凭什么在谈到技术的时候可以呢？

我们必须利用现有的信息，找到最好的解释或预测。如果我们关注不同的技术是如何发展的，尤其是它们的后果，我们就能从错误中吸取教训，做出更好的决定。

‍

‍

/ Pinterest /‍‍

我们目前的生活方式与技术紧密交织在一起，它们可以被认为是一体的。如果我们觉得可以倒退回去，并解开我们的生活与技术的联系，这似乎过于荒谬了。但我们可以更加小心地将未来的技术融入到我们的生活中。

这一点很重要，因为未来的技术可能比今天的技术更强大，影响更深远。当人工智能做出自己的道德选择时，继续坚持技术中立将毫无意义，而且这也将使我们的价值观变得更加重要。

文/Sam Brinson

译/Sue

校对/boomchacha

原文/medium.com/@smbrinson/is-technology-neutral-39d5b445b315

最新课程

怎样让下一代包容多元观点，学会独立思考？

C计划研发的在线思维读写课将通过与孩子深度阅读经典书籍，帮助孩子思考自我与他人、社会、自然的关系，希望帮助更多孩子，从小接受好的思维训练，成长为独立思考、能够理性交流的人。

扫码即可选班

▷

▷

▷

点“在看”／留言互动