【人工智能】AI 的真正威胁：世界经济论坛 2025 年全球风险报告

世界经济论坛《2025 年全球风险报告》揭示了一个在技术胜利与深重风险之间摇摆不定的世界。作为一种结构性力量，它“有可能模糊技术与人类之间的界限”，并迅速带来新的、不可预测的挑战。我们用人工智能创造的工具曾经被视为解决方案，但现在却成为意想不到的危机的根源，其后果波及整个行业、政府和社会。

报告将这些风险列为最重大的长期担忧之一，强调了人们对人类控制定义这个时代的技术的能力日益担忧。随着创新的加速，其意外后果的复杂性也在增加，从错误信息到算法偏见和监控过度。这些风险的紧迫性要求立即引起关注和采取行动。

机遇与不确定性的交汇为关键转折点奠定了基础。问题不再是技术进步是否会塑造未来，而是人类能否在一个日益由相互交织的风险定义的世界中负责任地利用技术。风险是前所未有的，我们今天的选择将影响几代人。

概览

第 20 版报告全面分析了人类面临的三个最紧迫风险：短期（2025 年）、短期至中期（2027 年）和长期（2035 年）。该分析借鉴了 900 多位专家和领导人的见解，将这些风险分为五个领域：环境、社会、经济、地缘政治和技术。

关键要点包括：

• 环境风险：极端天气事件、生物多样性丧失和污染仍然是人们关注的主要问题，反映出人们正在持续努力应对气候变化和资源枯竭。

• 社会风险：两极分化、不平等和错误信息日益加剧，削弱了人们对机构的信任并削弱了集体行动。

• 经济和地缘政治风险：全球不稳定仍然是一个持续的威胁，从通货膨胀和经济衰退到国家武装冲突。

• 技术风险：人工智能和前沿技术引入了错误信息、算法偏见和网络战等漏洞，重塑了行业并对治理和道德提出了挑战。

虽然这些领域相互关联，但报告强调了技术加速在放大风险和机遇方面的作用。随着人工智能、生物技术和生成技术重塑行业，它们挑战了人类治理、监管和合乎道德地部署这些创新的能力。这种相互关联性为当前的技术格局增加了一层复杂性，因此所有利益相关者必须共同努力。

人工智能与虚假信息的泛滥

报告强调的最紧迫的技术风险之一是人工智能在加速错误信息和虚假信息传播方面的作用。这一问题被列为 2027 年全球最重大风险，它不再是一个抽象的问题，而是当今具有深远影响的现实。能够大规模生成文本、视频和图像的生成式人工智能工具被用作武器，以削弱人们对机构的信任、破坏民主制度并操纵舆论，从而导致更严重的社会两极分化。

报告强调，在控制公众对信息的信心下降的同时，发现和处理虚假叙述是一项挑战。随着真实内容和虚假内容之间的界限变得模糊，数字生态系统面临着深刻的清算。

一些行业领袖也认识到监管的迫切需要。OpenAI 首席执行官 Sam Altman 在国会作证时表示：“必须优先考虑人工智能的监管，以减轻其滥用的风险。”这明确表明需要道德和监管护栏来抵消人工智能的连锁风险。

当今机器的现实：变形引擎，而非人工智能

虽然有关人工智能的讨论大多是由突破性进展的兴奋所驱动，但我认为澄清一个基本观点至关重要：我们今天还没有真正的人工智能。相反，我们有所谓的“变形引擎”——一种复杂的机器学习系统，旨在通过识别模式和生成输出来模仿智能。然而，这些系统缺乏真正的理解、推理或意图，在严格的数据约束下运行，从而限制了它们的能力。

这些系统不理解我们的世界。它们缺乏主体间性，即人类通过集体意义视角体验和解释现实的共同能力。如今，无论机器多么先进，它们都在训练数据的范围内运行。它们处理输入并产生输出，没有背景、意图或对其行为后果的理解。这一根本限制造成了一种智能的假象，同时掩盖了使用它们所固有的系统性风险。

控制的危险：幻觉和合成数据

我们面临的最紧迫风险之一是将控制权交给容易产生幻觉的系统——产生不正确、误导或完全捏造的输出。产生这些幻觉是因为这些系统没有建立在对世界的连贯理解上，而是对它们所接受的训练数据的反映。更糟糕的是，这些训练数据中的大部分都是有缺陷的、有偏见的或合成的，这放大了出错的可能性。

最近的例子，例如医疗保健 AI 系统推荐错误的治疗方法或招聘算法不公平地筛选候选人，都说明了将关键决策委托给缺乏人工监督的工具的危险。这些错误不仅仅是技术故障，它们可能会带来改变生活的后果。

一个值得注意的案例是，一个人工智能系统优先考虑高风险护理管理计划的患者。该算法根据医疗费用预测健康需求，无意中引入了种族偏见。黑人患者由于系统性差异通常需要支付较低的医疗费用，因此人工智能为他们分配了较低的风险评分。这种错误分类导致慢性病诊断不足和治疗延误，因为这些患者不太可能被转介到必要的护理管理计划。

另一个因素是合成数据，虽然它可以弥补一些数据缺口，但也加剧了 AI 训练的风险。合成数据虽然有助于解决数据稀缺问题和模拟场景，但可能会放大偏见和不准确性，从而加剧 AI 训练中现有的风险。在这些数据上训练模型加剧了这些系统与它们想要代表的现实之间的脱节。这种脱节可能会破坏信任、延续不平等并破坏服务于社会的系统。

算法偏差——不平等的新维度

WEF 报告还指出，在技术加速发展的时代，算法偏见的风险日益增加。从招聘算法到预测性警务，人工智能系统中存在的偏见可能会加剧不平等并加剧社会分歧。这些风险往往因人工智能系统缺乏透明度和问责制而加剧，人工智能系统就像不透明的“黑匣子”，其决策过程甚至连开发人员都不清楚。

有效解决算法偏见需要技术和人类的自省。《福布斯》最近的一篇文章指出，解决算法偏见需要我们“通过积极改进和扩展所有可用知识来解决算法和我们自身的偏见”。这一见解强调了改进人工智能系统的双重责任，同时批判性地审视构建人工智能系统的人的偏见和假设。

技术与社会两极分化之间的相互作用使这一局面更加复杂。如果没有严格的监督和道德框架，算法决策可能会加剧现有的差距，破坏对技术的信任，并加剧社会分裂。

机器平等：遥远的前景

机器即将与我们平起平坐的说法是误导性的。有意义的同等水平的智能（或更高水平的智能）需要能够推理、构建情境和做出道德决策的系统——这些品质要求的不仅仅是计算能力。它需要理解力，而这正是当今的系统从根本上所缺乏的。

我们必须抵制将令人印象深刻的成果与真正的智能混为一谈的诱惑。机器是工具，而不是具有道德推理能力或共享人类经验的自主实体。我们越是将这些系统拟人化，我们就越有可能放弃关键监督，将效率误认为能力，将便利误认为可信。

机器与真正的智能之间的差距不仅是技术上的，也是概念上的。当前的系统无法驾驭人类生活的微妙、混乱和依赖环境的本质。它们无法理解其输出背后的“原因”——无法理解其行为的目的、道德或更广泛的含义——这使得它们成为强大但从根本上来说有限的工具。

负责任地利用创新

当我们站在创新与风险的十字路口时，世界经济论坛报告呼吁领导人采取果断行动，确保技术成为进步的力量，而不是危险。

这些努力必须齐心协力，为负责任的人工智能开发和部署创建一个有凝聚力的框架：

1. 建立人工智能全球伦理框架：

   跨境合作对于在人工智能发展中建立透明度、问责制和公平性标准至关重要。人工智能伦理必须成为全球优先事项，各国政府、企业和民间社会应共同努力制定明确的指导方针。联合国教科文组织关于人工智能伦理的建议呼应了建立有凝聚力的全球框架的呼吁，旨在为不同地区和文化建立一致的标准。

2. 建立数字韧性：

   公众意识和教育对于应对错误信息和虚假信息的影响至关重要。投资数字素养可以增强个人评估内容的能力，并批判性地应对不断变化的数字环境。

3. 鼓励多方合作：

   政府、技术专家和私人组织必须合作，确保创新符合社会需求。这包括促进包容性创新，以应对气候变化和全球不平等等系统性挑战。

行动呼吁

世界经济论坛《2025 年全球风险报告》既是警告，也是行动号召。技术加速发展为人类提供了前所未有的工具来应对世界上最重大的挑战——但只有具备远见、责任感和协作精神才能做到这一点。报告中概述的风险强调了这一时刻的紧迫性：在这个关键时刻，我们对技术的选择不仅将影响创新的未来，还将影响人类本身的未来。

我们今天就人工智能做出的决定将决定这项技术是会成为加深分歧的力量，还是会为更加公平、更具弹性和创新的未来奠定基础。风险从未如此之高，而且也从未有带来变革的潜力。

免责声明：

本文所发布的内容和图片旨在传播行业信息，版权归原作者所有，非商业用途。如有侵权，请与我们联系。所有信息仅供参考和分享，不构成任何投资建议。投资者应基于自身判断和谨慎评估做出决策。投资有风险，入市需谨慎。

关注我们，一起探索AWM！

2025-02-01

2025-02-06

2025-02-28