人工智能预警：人和机器，谁的偏见更危险

（原标题：人工智能预警：人和机器，谁的偏见更危险）

在人类历史上的不同时代，谁在改变和塑造人们的观念？这是一个经常被忽视却又非常值得思考的问题。在人类文明的早期，部落首领或巫师，有时是两者合而为一，掌握对自然变化和人的命运的解释权。进入轴心时代，知识和观念的生产更加专业化，哲学家和政治家群体崛起，在西方是苏格拉底、柏拉图、赫拉克里特、亚里士多德和梭伦们，在东方则是老子、孔子、商鞅和释迦摩尼们，还有如修昔底德和司马迁这样的历史学家们，也因为杰出的叙事和见识，对当时和后世的思想影响深远。到了中世纪，教廷和国王在精神和世俗观念塑造上竞争不息。再往后，文艺复兴的先驱者们率先打破了人类的精神禁锢，地理大发现中探险者们的故事鼓励了猎奇、冒险、殖民和商业精神。然后，科学家群体、经济学家、政治理论家们在社会观念塑造中各领风骚。

从20世纪开始，企业家和企业在人类社会的观念塑造中扮演了日渐显著的角色，从福特主义到丰田主义，这种影响远远不止于企业内部，也不至于经济生产，而是影响到社会的方方面面。通常，这种观念塑造通过几种方式：

一是通过大众易于理解和传播的成功故事，企业家和企业被渴慕、效仿和追随；

二是带有政治经济学意味的，被加尔布雷思和乔姆斯基所揭示和批判的，通过消费主义的生活方式和资本对大众传媒的干预实现的；

三是正在迅速兴起的，通过对产品的定义以及企业家自己直接言说来表达的方式，这是令人瞩目和值得期待的变化。

今天，全球最大的企业，尤其是信息科技企业，很多都旗帜鲜明地在产品和服务中展现出其价值观。如果有人还怀疑我说的这些企业在观念塑造上的影响力，不妨想想微软、苹果、谷歌、华为、阿里巴巴、微信有多少员工，他们遍布的地域有多广，有多少企业在这些巨头的硬件供应链上，或者依赖这些巨头的系统平台来开发产品，更不必说有多人用户在用它们的产品。2019年，全球智能手机的出货量超过14亿台，这个数要大于中国的人口规模，三星、华为、苹果智能手机的出货量都在2亿左右。

在梅丽尔·斯特里普扮演的《铁娘子》中，撒切尔夫人借回忆父亲格言说，“观念决定行为，行为决定习惯。习惯决定性格，性格决定命运”，这是对观念的影响链条很好的说明。凯恩斯也说过，“经济学家与政治哲学家的思想，不论其正确与否，其力量之大，往往出于常人意料……许多实干家自以为不受任何理论之影响，往往恰恰沦为某个已故经济学家最坏学说之不自觉的奴隶。”这段话也可以用来预见未来企业家和企业对社会的影响。

那么，一个自然而然和关键的问题是，该如何看待企业家和企业的这种影响？就个人而言，我乐于将这种新涌现的影响看作是社会获得更好未来的机会。之所以称之为机会，有两个方面的理由：

一是多重观念力量的竞争，扩大了社会个体的观念选择空间，增进了思想的自由度，也意味着社会中的个体在掌握自身命运上有了更多的自由度；

二是企业家和企业被社会所共鸣和选择的那些观念本身，反映出的是合作伙伴和数以亿计消费者的集体选择，通过市场机制形成的这种选择是直接和有力的，反映出建立于分散个体常识基础上的共识。

当我们的社会面临一些系统性和根本性的挑战时，任何有助于我们应对这些挑战的机会，都需要倍加珍惜。这些挑战，有些是人们能够直观理解和警惕的，如急性的传染病、全球性的经济危机、核武器的扩散等。有些则更复杂和难以依靠直觉，如气候变化和人工智能，因为这些变化会撼动社会体系，一开始又是缓慢进行，它们的宏大超出了我们的日常认知，缓慢的变化又使我们难以察觉，而且可能的灾难发生在不知多远的未来，但是一旦缓慢变化累积到一个临界点，形势就可能急剧恶化。

相比于已经颇有争议的气候变化，人们对把人工智能视为我所说的系统性和根本性挑战更心存犹豫。这是可以理解的，因为温室气体排放只是人类生产和生活的副产品，并不是人们想要的。但人工智能则不同，它一开始就是我们理性的产物，是人类智慧的结晶，是我们用来创造更美好生活的工具。如果从1956年达特茅斯的夏季研讨班开始算起，人工智能的发展已经有六十多年了，但是直到最近这些年才开始全面渗入我们的生活。人们热烈而急切地驰向智能支持的美好生活，怎么愿意在刚开始的时候就考虑花大价钱改进刹车呢？

但是我不得不说，现在就需要非常认真地考虑改进刹车系统的事，这不是基于抽象的对“进步主义”和“理性自负”的反思。2018年，中国发展研究基金会和微软公司在北京联合发布了《未来基石：人工智能的社会角色和伦理》，本书的作者、微软公司的总裁布拉德·史密斯先生也出席了发布会。在报告中，我们从认识论和进化论的角度，提出要关注人工智能带来的知识生产和利用方式的变化，以及对人类社会的影响，特别是负面的影响，包括隐私保护、偏见强化、社会操纵、不平等、武器化等问题，布拉德对这些问题也有强烈的共鸣。事实上，我们的报告吸收很多在他领导下的微软团队关于人工智能挑战的洞见。

布拉德的这本《工具，还是武器？直面人类科技最紧迫的争议性问题》是非常及时的。如果借用在最近的新冠病毒疫情中常被提及的一个称谓，我们也可以称他为人工智能领域的“吹哨人”。书名准确而清晰地提醒人工智能技术发展和应用的两面性。最近几年来，我和我的团队在密切关注人工智能领域的研究报告和著作，这也是我们第一次从书名中就旗帜鲜明地获得对人工智能双重属性的警示。同样，这个书名也暗示，工具还是武器，希望还是危险，最终取决于我们的选择。

阅读这本书是一个愉快的体验，尽管里面讨论了许多对人类社会来说不那么愉快的挑战。阅读上的愉悦部分来自书里内容和分析。本书不仅展示了人工智能发展的积极前景和种种令人兴奋的可能性，也涵盖了诸多已经被关注和尚未引起关注的相关主题，社会分化、失业、垄断、武器化、大国科技竞争等等，这些议题在“工具和武器”这个主题下得到了妥善的安排和处理，这种内容上的全面、平衡与恰当的分析深度很好地结合在一起。

作者出色的叙述和严谨平实的风格，也让阅读变得轻松愉快。我猜想，这与他作为微软公司首席法务官的职业习惯有关。这不是拒人于千里之外的学术和技术著作，也不是架空的科幻灾难小说。在书中，大量的思考和分析是个人体验式的，作为微软的总裁兼首席法务官，他不仅参与了微软内部关于人工智能研发战略和规则的制定，还参与了全球范围内各类大型论坛、政府高层磋商会，读者很容易将自己代入这些场景中，理解不同利益方的关切和选择，这使得很多看起来宏大的议题变得真实可感。

基于本文一开始就提到的理由——企业家和企业在现代社会观念塑造中的重要角色，我特别赞赏布拉德和微软公司在推动公众全面、平衡地认识人工智能所作出的努力。借用电影《蜘蛛侠》中的话，能力越大，责任越大。作为一家全球领先的高科技公司，有几十万的员工，有数以亿计的用户，在全球人工智能开发版图中具有举足轻重的影响，应该促进行业在人工智能发展中采取审慎和自律，促成社会公众建立正确的认知和观念，这是巨大的责任。

我不准备过多讨论和评论这本书的内容了，毕竟读者自己从阅读中理解人工智能带来的希望和危险，是更可靠和可取的途径。但是，我乐于和读者们分享我在阅读本书以及写这篇书评中获得的两个扩展的思考。

第一，我们对人工智能开发走向失控要有更多准备。靠少数公司和政府的努力建立负责任的开发是困难的。企业之间有激烈的市场竞争，国家之间还有更复杂的技术和军事竞争，企业间和政府间的博弈会形成典型的囚徒困境，而且由于验证上困难也无法建立有效的约束机制，最终大家都向底线竞跑。

第二，人工智能对社会系统性、根本性的影响，还在于我们社会还未曾和智能上远高于我们的物种共生过。两年前和微软合作研究的时候，我们讨论和分析了人工智能的已显和未显的挑战，这些挑战都称得上巨大，但总觉得意犹未尽。但现在我想可以更清晰准确地表达出更大的风险。人类依靠智识形成的合作体系，将猛兽灭绝或赶到自然的角落里，驯化动物作为伙伴或者食物，开发疫苗控制了病毒的袭扰。但是人工智能和已知的生物不同，和我们习惯共存的工具不同，在人类需求的推动下，有实体和无实体的人工智能实际上是一个物种，它最终会具备自主性，而且在某些领域的智能和性能上远远超过人类的认知经验。所以，在未来，我们与人工智能不是共存，而是共生。但是，我们的社会没有准备好，人工智能成为社区的成员，成为伙伴、上级、下级、老师、敌人。当人工智能全面地介入人类的生产生活后，当它们从单一功能升级为复合功能，当它们通过网络连接成为社区，现在社会中我们熟知的哪些关系和行为准则可能都需要重新定义，但是我们还没有思考和准备。很多人认为这是虚幻的或者是遥远的未来的事，但是由于前面所说的“囚徒困境”，实际上这种挑战到来的速度会比想象得快。

这两个推演结论听起来似乎悲观了些，但是如果不去思考和指出这样的挑战，不去为之做好准备，那么这个挑战有很大的可能变成现实。要为这样的挑战作准备，不能只靠少数公司、政府、学者的努力，需要在国际层面、行业之间、学科之间和不同利益群体之间的更广泛协同合作。不论正确与否，我乐于和读者分享我的阅读思考，也期待更多的读者能从这本书中获得自己的启迪。

（作者俞建拖为中国发展研究基金会副秘书长）