人工智能同时需要实用主义者和蓝天梦想家

Ben Shneiderman

为了人类最光明的未来，人工智能中的蓝天崇高思想家需要泥靴实用主义者的帮助

人工智能思想家似乎来自两个社区。一种是我所谓的蓝天幻想家，他们推测技术的未来可能性，援引乌托邦幻想来产生兴奋。蓝天构想令人信服，但往往被不切实际的愿景和可以和应该建造的道德挑战所笼罩。

相比之下，我所说的泥地靴实用主义者是关注问题和解决方案的。他们希望减少广泛使用的人工智能系统可能造成的危害。他们专注于修复有偏见和有缺陷的系统，例如经常错误地将人识别为罪犯或侵犯隐私的面部识别系统。实用主义者希望减少 AI 可能犯的致命医疗错误，并引导自动驾驶汽车成为安全驾驶汽车。他们的目标还在于改进基于人工智能的关于抵押贷款、大学录取、工作招聘和假释授予的决策。

作为一名在设计已广泛实施的创新应用程序方面有着悠久历史的计算机科学教授，我相信那些有远见的人会从泥地靴现实主义者的深思熟虑的信息中受益。将两个阵营的工作结合起来更有可能产生有益的结果，从而导致下一代技术的成功。

虽然蓝天投机者的未来主义思维激发了我们的敬畏并获得了大部分资金，但泥地靴思维提醒我们，一些人工智能应用程序威胁隐私、传播错误信息，并且明显存在种族主义、性别歧视和其他道德问题。不可否认，机器是我们未来的一部分，但它们会平等地为所有未来的人类服务吗？我认为泥地靴阵营的谨慎和实用性将通过确保算法开发的多样性和平等性在短期和长期内造福于人类，这些算法越来越多地影响着我们的日常生活。如果蓝天思想家将泥地靴现实主义者的担忧融入他们的设计中，他们就可以创造出更有可能促进人类价值观、权利和尊严的未来技术。

蓝天思维始于人工智能发展的早期。文学由开创该技术并预示其不可避免的社会转型的作者所主导。人工智能的“父亲”通常被认为是麻省理工学院的 Marvin Minsky 和 John McCarthy 以及卡内基梅隆大学的 Allen Newell 和 Herb Simon。他们聚集在会议上，比如 1956 年的达特茅斯会议，激发了西蒙 1965 年预测“机器将能够在 20 年内完成人类可以做的任何工作”的热情。

人工智能还有许多其他贡献者，包括2018 年的三位图灵奖获得者：Geoffrey Hinton、Yoshua Bengio 和 Yann LeCun。他们在深度学习算法方面的工作是一项重要贡献，但他们对 AI 的重要性和必然性的持续庆祝包括 Hinton 在2016 年令人不安的引述，即“人们现在应该停止培训放射科医生。很明显，在五年内深度学习将比放射科医生做得更好。” 更以人为本的观点是，深度学习算法将成为另一种工具，如乳房 X 光检查和血液检查，使放射科医生和其他临床医生能够做出更准确的诊断并提供更合适的治疗计划。

牛津大学 2013 年的一份报告将机器人取代人类从而造成广泛失业的主题合法化，该报告声称 47% 的工作可以实现自动化。未来学家马丁福特 2015 年的著作《机器人的崛起》抓住了这一想法，描绘了一幅令人不安的画面，即低技能和高技能工作变得如此完全自动化，以至于政府将不得不提供普遍的基本收入，因为剩下的工作机会很少。现实情况是，精心设计的自动化可以提高生产力，从而降低价格、提高需求并为许多人带来好处。这些变化引发了一个平行的现象，即大力创造新的就业机会，这有助于导致美国和其他一些国家目前的高就业水平。

是的，有些作者提供了警示故事和不同的愿景，例如麻省理工学院教授 Joseph Weizenbaum 在他 1976 年出版的《 计算机能力和人类理性 》一书中， 但这些都是例外。

泥地靴实用主义者掀起了新一轮深思熟虑的人工智能批评浪潮。他们将讨论从天马行空的乐观转变为明确指出对人类尊严、公平和民主的威胁。Op-Ed 文章和2016 年白宫座谈会是有益的举措，数学家 Cathy O'Neil 的 2016 年著作《数学毁灭武器》扩大了受众范围。她专注于不透明的人工智能算法在大规模应用以决定假释、抵押和工作申请时如何有害。奥尼尔强有力的例子促进了以人为本的思维。

其他书籍，如 Ruha Benjamin 的Race After Technology：Abolitionist Tools for the New Jim Code紧随其后的是如何改变算法以增加经济机会和减少种族偏见。

社会心理学家 Shoshanna Zuboff 于 2019 年出版的《监视资本主义时代》一书展示了谷歌从“不作恶”的早期座右铭转变为“混淆这些过程及其影响”的有计划的努力。Zuboff 的解决方案是呼吁改变商业模式、民主监督和隐私保护区。学者 Kate Crawford 在她 2021 年出版 的《人工智能地图集》一书中发表了另一项毁灭性的泥靴分析， 重点关注人工智能对工作、环境、人际关系和民主的榨取和破坏力。她在美国国家工程院的一场引人入胜的讲座中对此作了进一步的完善，描述了人工智能研究人员和实施者可以采取的建设性行动，同时鼓励政府监管和个人努力保护隐私。

泥地靴活动家因其积极的研究贡献而获得认可，这些贡献提供了有益于人们的巧妙设计。2021 年 10 月， Cynthia Rudin 获得了人工智能促进协会颁发的 100 万美元的人工智能造福人类奖。她在可解释形式的 AI 方面的工作是对不透明黑盒算法令人眼花缭乱的复杂性的回应，这让人们很难理解为什么他们因假释、抵押贷款或工作而被拒绝。

许多泥地靴思想家是女性，但男性也谈到了人道监督的必要性。技术先驱 Jaron Lanier 在他的《立即删除社交媒体帐户的十个论点》中也提出了担忧，该文件确定了社交媒体的危害，并建议用户更好地控制自己对社交媒体的使用。法律学者 Frank Pasquale 的机器人新定律解释了为什么 AI 开发人员应该重视人类专业知识、避免技术军备竞赛并对他们创造的技术负责。然而，通过以人为本的设计来确保人为控制将需要对国家政策、商业实践、研究议程和教育课程进行重大改变。

这个阵营的多元化工作者——包括女性、非二元性人群、残疾人和有色人种——传达了重要信息，以确保将蓝天梦想转化为可实现的产品和服务，从而造福人类并保护环境。

这是一篇观点和分析文章，作者所表达的观点不一定是《科学美国人》的观点。

Ben Shneiderman是马里兰大学计算机科学系的名誉教授、美国国家工程院院士，也是最近出版的《以人为本的人工智能》（牛津大学出版社）一书的作者。