【CGS-NDI银河拾璀】人工智能：从技术神话到治理视野

来源：市场资讯

（来源：中国银河证券新发展研究院）

导读

在当前关于人工智能的讨论中，人们往往更关注模型性能、产业竞争、产品应用和未来前景，而较少追问这些系统究竟建立在什么样的资源条件、社会关系和制度结构之上。而凯特·克劳福德的著作《技术之外：社会联结中的人工智能》，在认可人工智能为社会发展创造巨大贡献的基础上，对大众普遍认知中人工智能“绝对中立、天然智能、必然普惠”的单一技术神话进行了辩证的审视。本书将视角从实验室不断推向更外部的世界：从内华达州的锂矿和数据中心的能源消耗，到亚马逊仓储中心的劳动管理、互联网平台的数据抓取，再到分类系统、情感识别、国家治理和军事技术。在这些看似分散却彼此相连的案例中，作者试图说明，人工智能从来不是悬浮于数字世界的抽象对象，而是深深嵌入现实社会之中的复杂系统。其全产业链的发展进程，与地球资源开发、人类劳动模式变革、公共数据分配、个体生活方式深度绑定，技术发展背后潜藏的资源利用、劳动权益、数据安全等现实问题，值得全社会的关注与审视。

在AI伦理建设日益受到行业重视的当下，本书剖析了人工智能发展过程中可能存在的结构性权力分配失衡、发展模式可持续性等深层问题，揭示了技术应用中可能放大既有社会不平等的潜在风险。这为当今社会推动AI技术朝着更健康、普惠、可持续的方向发展，提供了重要的社会视角与反思方向。

书籍内容

作者开篇便提出一个贯穿全书的核心判断：人工智能系统并不是纯粹抽象的数字存在，而是建立在大规模资源投入之上的社会技术系统。作者将人工智能视为一种“采掘工业”，指出：“人工智能既不人工，也不智能。”相反，人工智能既是具身的，也是物质的，是由自然资源、燃料、人力、基础设施、物流、历史和分类构成的。我们手中的智能手机、运行AI大模型的数据中心、驱动自动驾驶的锂电池，其核心都离不开锂、稀土、锡、钴等矿产资源。而这些资源的开采，正在对地球造成不可逆的破坏：印尼邦加岛的锡矿开采铲平了森林与珊瑚礁，刚果的钴矿开采滋生了现代奴隶制与地区冲突，科技巨头们却通过层层外包的供应链，使这些环境与人文代价隐形。

更直击人心的，是AI模型本身的巨大能耗与环境代价。克劳福德引用研究数据指出，“仅运行一个NLP模型就产生了30万千克的二氧化碳排放量，相当于5辆汽油动力汽车的整个使用寿命（包括其制造）的排放量”。尽管近年来科技行业积极推动“绿色云”“碳中和”等，但数据中心作为世界上最大的电力消费者之一，同时消耗大量的水资源用于服务器冷却，对自然环境与气候变化的影响不容忽视。

如果说矿产资源是AI的物质骨架，那么全球范围内的人类劳动，就是AI得以运转的血液。人工智能的运行并不是仅靠工程师和算法自动完成的，它还依赖大量常被忽视的人类劳动与持续积累的数据资源。书中以亚马逊履行中心为典型案例，展示了算法如何组织时间、考核效率、安排路径，并使工人的动作与节奏不断向系统要求靠拢。由此，作者讨论的重点并非“机器人是否取代人类”，而是另一个更具现实性的命题：在越来越多的工作场景中，人是否正在被按照机器的逻辑来衡量、管理和调度？

书中也特别关注那些位于技术叙事边缘的“隐形劳动者”。从众包平台的图片标注工人，到负责内容审核、数据清洗、系统纠错的合同工，他们完成了大量细碎却关键的工作，使得AI系统能够呈现出更稳定、更“聪明”的效果。作者借这些案例指出，机器的“智能”并非凭空出现，而是建立在庞大的人力支持之上，只是这些劳动往往被平台和商业叙事遮蔽了。

除劳动力外，当下人工智能系统还高度依赖训练数据，而这些数据很多来自互联网中可公开获取的图像、文本与行为痕迹。但问题在于，数据是如何被搜集、如何去语境化、又如何被重新定义为可计算的“基础设施”的？在这一过程中，个人信息、公共空间影像和社会互动记录被源源不断纳入训练体系，其原有的边界、背景和意义却被不断淡化。克劳福德将其称为“数据提取主义”：AI产业将所有公共空间、个体生活都转化为可提取的数据资源，再将其私有化、货币化，而数据的生产者，却从未从中获得回报。

更进一步的讨论是，人工智能究竟以什么方式理解和表示现实？作者指出，AI系统并不是直接“认识”世界，而是依赖标签、类别、代理变量和训练集对现实进行切分、命名和排序。然而，这种“分类”并非中立的技术行为，其本质是一种内嵌权力、意识形态与社会等级的政治实践。一个系统如何定义人、如何划分特征、如何设定正常与异常，背后都包含特定的假设、视角与价值判断。克劳福德在书中深刻地揭示：AI的分类实践，从来不是中立的技术操作，而是充满了政治与权力的干预，它用算法的客观性，固化、放大了人类社会既有的等级制度与歧视。

这种分类方式除了可能会导致偏见与歧视外，还决定着我们应该如何看待和评价这个世界。在克劳福德看来，AI领域反复讨论的“算法偏见”，从来不是可以轻易修复的技术问题。当AI试图用固定的标签、量化的指标，去定义无限复杂的人类身份、情感与社会关系时，它极有可能复刻传统的权力结构。“人工智能系统并不是中立的技术，它们嵌入了现有的权力结构，并且往往会强化或放大社会不平等”。

作者强调，人工智能不仅是一种技术能力，它与资本、基础设施、公共资源和制度安排交织在一起，并在不少场景中强化了原有的不对称关系。因此，作者提出了一个更根本的问题：社会不应只问“人工智能可以用在哪里”，还应进一步追问“为什么要在这里使用人工智能”“这种使用究竟服务于谁”。这提醒读者重新思考技术发展背后的增长逻辑，以及人类究竟希望把技术带向何处。

思考与拓展

阅读本书，并非要否认人工智能技术突破对经济社会方方面面的积极推动作用——人工智能无疑是新一轮科技革命和产业变革的重要力量，它已经在科学研究、产业升级、公共治理等领域展现出广阔前景。但与此同时，值得思考的问题已不只是“技术能走多快”，还包括“如何让技术走得更稳、更远、更可持续”。本书所揭示的资源、劳动、数据与权力问题，提醒我们必须跳出单一的技术乐观主义，将人工智能置于治理、发展与社会运行的整体框架中加以理解。结合我国当前的发展实际，未来关于人工智能的推进，至少需要把握以下三个方向。

人工智能既蕴含着巨大的技术红利与发展空间，也伴随着算法偏差、数据安全、技术滥用、伦理失范等一系列新风险。因此，推动人工智能健康发展，必须坚持发展与规范并重、创新与安全并举。对此，我国实际上已进行了较为系统的前瞻部署。2017年国务院印发《新一代人工智能发展规划》，明确提出要构建人工智能法律法规、伦理规范和政策体系；此后，围绕算法推荐、深度合成、生成式人工智能等重点领域，国家又陆续出台多份制度文件，推动我国人工智能治理逐步从原则倡导走向规则落地。

展望未来，我国人工智能治理框架还将继续深化：一方面，要围绕数据确权、模型安全、知识产权、责任认定等重点问题，加快健全更具可操作性的制度体系；另一方面，也要提高治理的前瞻性和协同性，推动政府、企业、科研机构和社会公众形成更加有效的共治格局。人工智能治理的目标不是限制技术发展，而是为技术健康发展提供稳定预期和制度保障，使其真正成为可持续、可监管、可信赖的发展力量。

历史反复表明，每一次重大技术革命都会重塑就业结构和劳动方式，人工智能也不会例外。与过去主要替代体力劳动的机械化、自动化不同，本轮人工智能变革已经开始进入认知劳动领域，对初级白领岗位产生了更加直接的影响。与此同时，人工智能对劳动者的影响还体现为劳动节奏加快、绩效考核强化、管理方式平台化与实时化，这意味着一些劳动者即使未被替代，也可能在工作强度、收入稳定性与职业认同等方面面临新的压力。因此，应对人工智能的就业冲击，必须通过更加积极的公共政策进行调节和托底。

未来，一方面要加快健全终身教育、职业培训和技能提升体系，帮助劳动者适应由重复性岗位向复合型、创造型、服务型岗位的转变；另一方面要进一步完善失业保障、再就业服务、灵活就业保障机制等，缓解技术变革过程中的阵痛。此外，还应更加重视新型劳动关系的规范问题，进一步完善劳动权益保护。我们的社会不仅要有先进的模型和系统，也要有兜得住风险、接得住转型的社会保障能力。

与其他经济体相比，中国发展人工智能的独特优势，在于拥有超大规模市场、完整产业体系、丰富应用场景和较强的组织协调能力。这意味着，中国不仅有条件在技术层面推进创新，更有条件在产业层、治理层和应用层形成系统性优势。当前，人工智能的价值已经越来越清晰地体现在赋能实体经济、催生新质生产力之中。无论是制造业中的智能质检、工艺优化，还是服务业中的医疗辅助诊断、教育个性化支持，人工智能都具备广泛而现实的落地空间。

未来，更好用好人工智能，一方面要依托超大规模市场，推动人工智能在真实需求中迭代升级，形成“技术研发—场景验证—规模应用—持续优化”的正向循环；另一方面，要坚持把人工智能发展更多落到产业升级和民生改善上，避免陷入脱离实际需求的概念竞争和重复建设。同时，还要统筹算力、数据、算法、人才、能源等关键要素，提高资源配置效率，夯实人工智能长期发展的基础支撑，把技术能力转化为产业能力、治理能力和国家竞争力。

推荐人：彭雅哲