21书评｜AI繁荣论者的技术人文主义指南针

文/陆坚

在AI概念与学科诞生之前，具备类似人类智能的机器人早已出现在科幻作品中。过去20年间，AI的几次重大突破进入了公众视野，引发了广泛讨论。例如，1997年IBM的超级计算机深蓝（Deep Blue）击败了国际象棋世界冠军加里・卡斯帕罗夫（Garry Kasparov）；2016年，谷歌DeepMind开发的AlphaGo在围棋比赛中战胜了世界冠军李世石。尤其是2022年底ChatGPT的横空出世，以及GPT-4和多家前沿大语言模型能力的迅猛增长，让关于AI的讨论达到了前所未有的热度与参与度。

在《AI赋能》中，作者里德·霍夫曼将围绕AI展开讨论的人群分为了以下四派：

末日论者：认为AI将引领人类走向糟糕的未来。他们担忧，在最坏的情况下，超级智能且完全自主的人工智能可能不再与人类价值观保持一致，甚至可能会毁灭人类。这一派观点极端悲观，常引发人们对AI潜在风险的深度担忧，例如担心AI会控制人类，使人类成为其“奴隶” 。

悲观论者：既强烈批评AI，也指责末日论者。他们认为末日论的观点实际上默认了AI的强大，同时其长期和抽象的视角误导人们忽视了近期AI带来的风险和危害，如潜在的失业问题、大规模的虚假信息传播、现有系统性偏见的放大以及对个体能动性的削弱等。他们主张采取限制性的、自上而下的管理方式，认为AI的开发和部署应由官方监管和监督机构严格监测和控制，以降低这些风险 。

乐观论者：坚信AI带来的生产力提升和创新将远远超过其产生的任何负面影响。他们对通过预防性监管来杜绝AI风险或危害的做法持怀疑态度，主张给予开发者足够的空间，让他们按自己认为合适的方式产生最快、最佳的结果，追求完全的自主创新权，不希望政府监管，也不期望政府支持。

繁荣论者：与乐观论者一样，对AI的发展前景持乐观态度，相信AI能在无数领域加速人类进步。但他们也认识到，AI这种具有变革性和多样性的技术，不能以单方面的方式开发和部署。由于AI会影响大量人群，他们倡导在现实环境中的广泛参与和迭代部署。他们并不完全反对政府监管，但认为让具有不同价值观和意图的多样化用户群体使用这些技术，是开发更安全、更公平、更有用的AI工具的最快且最有效的方法。

霍夫曼先生自称是繁荣论者，而繁荣论者首先是乐观论者。霍夫曼先生有很多标签：慈善家、公益倡导者、风险投资人，但他始终是一位创业人。创业人都是乐观的，我自己也曾经是创业人，深知创业人必须是乐观的，要不然也不会选择去创业。在霍夫曼先生的多个创业产品中，影响力最大的当属领英（LinkedIn），2003年创立，2011年在纽交所上市，2016年被微软以262亿美元收购，之后作为微软旗下独立运营的子公司，拥有超过10亿全球会员，在2024财年为微软贡献了6.7%的营收。在AI时代，霍夫曼先生又创立了Inflection AI和Manas AI（在本书英文版发布的同一周官宣成立）。

然而，成功的创业和创新仅凭乐观的胸怀显然是不够的。按照上述定义，AI繁荣论者与乐观论者的主要区别在于推进AI发展的方法论和实践上。简而言之，作者在这本书中倡导了两个重要的方法：广泛参与和迭代部署。前者源自霍夫曼先生打造领英这一巨大职业社交平台的经验，后者则来自OpenAI开发和部署GPT系列大模型的经验。此外，作者坚信：防止糟糕未来的最好办法就是积极地打造更美好的未来。虽然我并不完全苟同作者的这一观点，但我被他面对风险和不确定性时坚定向前的精神所感染，这正是创业者的精神。毕竟，面对AI带来的诸多挑战，像悲观论者那样倡导用立法来限制AI技术的发展，并非解决问题之道，而只是延缓问题所产生的影响，且未必奏效。

在面临巨大的不确定性却又乐观勇敢地向前时，作者提出了一个重要的概念，称为“技术人文主义指南针”，而广泛参与和迭代部署可以视为在技术人文主义指南针下的行动方案。

作者在本书中倡导在AI发展中使用“技术人文主义指南针”，其核心在于以人为本，这一理念贯穿于AI与人类社会交互的多个层面，旨在确保AI的发展服务于人类的根本利益和全面发展。

以人为本，增强个人能动性：技术人文主义指南针的核心是将人类能动性置于AI发展的中心位置。作者认为，AI的发展应是人类个体意志的延伸，旨在广泛增强和放大个人及集体的行动能力和选择权利。例如在心理健康护理领域，AI不应仅仅被视为替代人类咨询师的工具，而是要辅助护理提供者，为接受护理者提供更个性化的支持，从而增强双方的能动性。通过分析大量治疗会话记录，AI可以帮助从业者更好地了解哪种干预措施在不同情境下效果最佳，进而改进治疗实践，提升治疗效果；对于患者而言，他们能够获得更符合自身需求的心理健康支持，更好地管理自己的情绪和生活 。

促进公平与广泛的参与：技术人文主义强调AI的发展和应用应尽可能广泛且公平地分布，让全球数十亿人都能以自己选择的方式亲身体验和受益于AI技术。这意味着打破技术获取和使用上的障碍，避免技术被少数人垄断。以互联网的发展为例，早期互联网的普及让更多人能够获取信息、参与社交和开展业务，改变了人们的生活和工作方式。AI也应如此，要确保不同地区、不同阶层的人群都能从中受益。为偏远地区提供必要的技术设备和网络支持，让当地居民能够使用AI教育工具提升知识水平，或借助AI医疗辅助服务获得更好的健康咨询。

在迭代部署中融入人文关怀：作者倡导通过迭代部署的方式发展AI，这一过程充分体现了技术人文主义。OpenAI在推出产品时邀请公众参与开发过程，根据用户体验和反馈进行持续改进。这种方式不仅能使AI产品更贴合用户需求，还给予个人和社会足够的时间去适应AI带来的变化。在这个过程中，用户可以根据自己的使用感受，对AI产品的功能、交互方式等提出建议，开发者据此进行优化，使AI技术在不断迭代中更加人性化，更好地服务于人类。

平衡创新与人文价值：在AI发展过程中，技术人文主义指南针引导人们在追求创新的同时，充分考虑人文价值和社会影响。AI的发展速度迅猛，可能会带来一些潜在风险，如隐私侵犯、算法偏见等问题。技术人文主义要求在创新的过程中关注这些风险，确保AI的发展符合人类的价值观和伦理道德标准。在数据收集和使用方面，要加强隐私保护，确保用户数据不被滥用；在算法设计上，要避免偏见，保证公平性，使AI技术在推动社会进步的同时，不损害人类的尊严和权益。

推动跨领域合作与对话：实现技术人文主义的AI发展需要跨领域的合作与对话。这包括计算机科学家、伦理学家、政策制定者、社会学家等不同领域的专业人士共同参与，从多个角度审视AI的发展。伦理学家可以从道德层面评估AI技术的合理性，政策制定者能够制定相关法规引导AI的健康发展，社会学家则可以研究AI对社会结构和人际关系的影响。通过这种跨领域的合作与对话，能够更全面地考虑AI发展带来的各种影响，制定出更符合人类利益的发展策略。

作为一名深耕科技行业三十载的从业者，我深信我们正在经历的这场AI技术革命将会彻底改变世界。从工作到生活，从社会到个人，从行业到企业，AI的影响无处不在。然而，这种未来的不确定性也时常让我感到焦虑。虽然我能清晰地看到现有行业将被颠覆，工作岗位将减少甚至消失，但我却无法准确地预测未来的样子，会有哪些新的行业涌现，以及哪些新的职业和岗位将应运而生。

翻译本书的过程，于我而言是一场认知升级之旅。它让我更加确信：面对不确定性，创业者精神比预测未来更重要。与其担忧一个不确定的未来，不如去积极创造一个更美好的未来。历史已经证明，技术的发展和创新是不可阻挡的。阻止一个不想要的未来的最可靠方式，不是试图踩下创新的刹车或停滞不前，而是引导自己驶向更加光明的明天。（作者陆坚为前领英全球副总裁、前领英中国总裁，《AI赋能》译者）