美媒：美国顶级AI公司大佬撰文向世界发出”六大警告”

美国AXIOS官网1月27日发表题为《幕后：Anthropic对世界的警告》(Behind the Curtain: Anthropic's warning to the world)的报道，综述了世界著名人工智能软件公司、美国Anthropic公司首席执行官达里奥·阿莫德最新一篇文章。文章列出人工智能(AI)发展将对人类文明带来的所谓”六大警告”，而且所列”警告”已是”迫在眉睫”。报道作者是吉姆·冯德赫和麦克·阿伦(Jim VandeHei Mike Allen)。现全文翻译如下，仅供参考：

美国Anthropic公司首席执行官达里奥·阿莫德(Dario Amodei)是全球商业领域最强大、最受欢迎的人工智能系统的缔造者，他警告称，若缺乏明智且迅速的干预，超人类智能将带来文明层面的破坏，这一“真正危险”已迫在眉睫。

(报道截图)

在周一出版之前与我们分享的一篇38页的文章中，阿莫德写道：“我相信我们正在进入一个动荡而不可避免的重要过程，这将考验作为一个物种的我们究竟是谁”，”人类即将被赋予几乎难以想象的强大力量，而我们的社会、政治和技术体系是否具备驾驭这种力量的成熟度，这一点尚不得而知”。

阿莫德的公司已打造出全球最先进的LLM（大型语言模型）系统之一。Anthropic公司的新产品Claude Opus 4.5以及编码和协作工具，已成为硅谷和美国企业高管的热门话题。在构建Anthropic产品(包括其自有AI)的过程中，90%的计算机编程工作都是由AI完成的。

（达里奧·阿莫德）

阿莫德是就人工智能(AI)风险发声最为响亮的大亨之一，他深感忧虑，认为政府、科技公司和公众都大大低估了可能出问题的风险。他的这篇文章是2024年发表的《慈爱之机：人工智能如何让世界变得更美好》("Machines of Loving Grace: How AI Could Transform the World for the Better") 著名文章的续篇，旨在唤醒他人，引发公众辩论，并详细阐述这些风险。

阿莫德坚称，他对人类能够顺利度过这一过渡期持乐观态度，然而前提是AI的领导者与政府必须对民众坦诚相待，并且比现在更加严肃地对待这些威胁。阿莫德的担忧源于他坚信，在未来一两年内，我们将直面他称之为的“数据中心里的天才国度”(a "country of geniuses in a datacenter”)这一严峻现实。

他的意思是，拥有众多领域(如化学、工程等)诺贝尔奖得主级天才的机器，将能够自主且持续地制造出各种产品，其产出范围包囊了从文字、视频，到生物制剂或武器系统都有。他写道：“如果指数级(进阶)继续下去——虽然这并不确定，但目前已有长达十年的数据记录支持这一趋势——那么不出几年，人工智能在几乎所有方面都将超越人类”。

在阿莫德的这篇名为《技术的青春期：面对并克服强大人工智能的风险》("The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI")论文中，他向世界发出的具体警告包括：

（阿莫德的最新文章截屏）

1、大规模失业：“我……同时认为，在未来1至5年内，人工智能将颠覆50%的初级白领工作，同时我也认为，在未来1至2年内，我们可能会拥有比所有人类都更强大的人工智能”。

2、拥有国家实力的AI：“我认为，应对AI风险的最好方式是提出以下问题：假设一个真正的‘天才国度’在2027年左右在世界的某个地方出现。想象一下，比如说，有5000万人，他们都比任何诺贝尔奖获得者、政治家或技术专家更有能力……我认为，情况显然十分危险，如一位称职的国家安全官员向国家元首提交的报告中，很可能会包含诸如“一个世纪以来，甚至可能是有史以来，我们所面临的最严重的国家安全威胁”之类的措辞。这似乎是文明社会最优秀的人才应该关注的问题”。

3、恐怖威胁加剧：“有证据表明，许多恐怖分子至少都受过相对良好的教育……生物学是我最担心的领域，因为它具有极大的破坏潜力，而且很难防御……大多数个体不良行为者都是心理失常的人，因此几乎可以肯定，他们的行为是不可预测且非理性的——而正是这些不良行为者，这些没有技能的人，可能会从人工智能中获益最多，因为人工智能使滥杀无辜变得更加容易⋯⋯ 随着生物学的进步(日益受到人工智能本身的推动)，或许……有可能发动更具选择性的攻击(例如，针对具有特定血统的人群)，这又增加了一个令人不寒而栗的可能动机。我认为，在生物攻击变得普遍可行之后，尽管不一定会立即付诸实施，而事实上，我对此持怀疑态度，但如果将数百万人和几年时间加在一起，我认为发生大规模攻击的风险很大……伤亡人数可能达到数百万人甚至更多”。

4、为威权主义赋能：包括”某国”(不翻译—译者注)在内的各国政府都将掌握这项技术。某国”在人工智能能力方面仅次于美国，并且……极有可能在这些能力上超越美国。某国政府目前实行专制统治，并运营着一个高科技监控国家”，阿莫德直言不讳地写道：“由人工智能赋能的威权主义令我恐惧”。

5、人工智能公司：“作为人工智能公司的首席执行官，这样说有点尴尬，但我认为下一层风险实际上是人工智能公司本身”，阿莫德在谈到专制政府后警告道，”人工智能公司掌控着大型数据中心，训练着前沿模型，在如何使用这些模型方面拥有最丰富的专业知识，并且在某些情况下，他们每天都会接触到数千万甚至数亿用户，并有可能对他们产生影响。例如，他们可以利用其AI产品对其庞大的消费者用户群体进行洗脑，公众应对此所代表的风险保持警惕。我认为，对AI公司的治理应受到严格审查”。

(介绍Claude软件）

6、引诱有权势者噤声：人工智能巨头拥有如此之多的权力和金钱，以至于领导者们会忍不住淡化风险，并掩盖危险信号，就像Claude(Anthropic公司研发的最新AI程序—译者注)在测试中所做的那些奇怪的事情一样(为避免被关闭，它竟勒索一位高管，声称其有婚外情，此事已被Anthropic公司自己披露过)。阿莫德在他最暗淡的段落中写道：“人工智能可以赚很多钱——实际上每年数万亿美元。这就是陷阱：人工智能是如此强大，如此闪亮的奖品，以至于人类文明很难对它施加任何限制”。

有关行动呼吁：“富有的人有义务帮助解决这个问题”，阿莫德说道，”令我难过的是，许多富人(特别是在科技行业)最近采取了愤世嫉俗和虚无主义的态度，认为慈善事业不可避免地是欺诈性的或无用的”。

有关底线问题：阿莫德写道，归根结底”人类需要觉醒，而本文正是试图——或许徒劳无功，但值得一试——唤醒人们”，”我们面前的岁月将无比艰难，对我们的要求超出了我们的想象”。