Anthropic CEO谈放缓AI研发：AI风险是真实的，这个行业撒谎太久了，但也无需“把一切都关掉”

就在的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险，“这个行业对人们撒谎太久了……真相是：风险是真实的。”

9月13日，Amodei接受了CBS《周日早间》的专访。访谈一开始，主持人Jo Ling Kent直接抛出问题：AI真的可能在不远的将来杀死我们所有人吗？

Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。

就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型来研发生物武器。我当然不想为此负责。

他还提到，Anthropic的生物学安全防护之严格，以至于“几乎每天都有人在社交媒体上嘲笑我，生物学专业的学生抱怨说模型没法用”。他的回应是：“我宁愿被嘲笑，也不愿某天醒来发现有人用Claude杀了一群人。”

不过，他反对关闭AI模型这种“一刀切”的方式放缓AI。如果一个AI模型足够强大，它可能关都关不掉。他说道，“不是说我们今天需要恐慌，也不是说要把一切都关掉。但我们需要确保我们的安全防护、理解能力和控制能力，能够跟上技术发展的速度。”

此次访谈发生在一个特殊节点。同一个周末，Amodei发表的一篇博文（We Must Pace the Frontier）引发轩然大波，并随即获得马斯克、Altman相继公开支持。社区热议称，AI高速前进之际“踩刹车”将重挫“AI交易”。

指数曲线的拐点：不是五级火警，但是警告信号

Jo Ling Kent问道：现在是“五级火警”吗？Amodei的回答是：

这是一个警告信号。不是说我们今天需要恐慌，也不是说要把一切都关掉。但这是一个警告信号，说明我们需要放缓，需要确保我们的安全防护、理解能力和控制能力，能够跟上技术发展的速度。

他用指数曲线来描述当前的位置：“这项技术在指数级增长——1、2、4、8、16、32……我们现在处于曲线开始变陡的那个弯道上。”

他坦言，即便是他自己，也没有完全预料到进展会如此之快：“即使我一直在对自己说这件事，我也没有真正体会到，当进展真的这么快的时候，实际感受会是什么样的。”

三步方案：第三方评估员是核心

Amodei在访谈中详细阐述了他在博文中提出的三步计划，其中第一步被他视为最关键。

第一步：嵌入式第三方评估员。

“我提议引入嵌入式外部评估员，来自第三方非营利机构，或者未来某天来自政府机构，他们可以观察我们训练和运行模型的全过程。”

他将其比作食品检查员，但Jo Ling Kent追问：当技术变化如此之快，食品检查员能跟得上吗？

Amodei的回答颇具意味：“他们能做的事情之一，就是告诉我们他们能跟上的速度。这可能成为设定技术推进速度上限的因素之一。”

第二步：多家公司共同制定安全标准。

“下一步是多家行业参与者也同意引入第三方评估员。然后，各公司需要共同制定发布安全标准，也许还包括发布节奏的标准。但要做到这一点，必须有政府参与进来。”

第三步：政府必须在场。

“我们谈论的是产品发布速度是否安全的问题。我们需要在政府在场的情况下进行这场对话。”

“AI终止开关”：不是万能药，但也不是坏主意

Jo Ling Kent提到了国会议员Ted Leo提出的“AI终止开关”法案，询问Amodei是否支持。

Amodei表示，他没有仔细研究过该法案，但对“AI终止开关”这一概念本身持审慎态度：

能够停用、限制或关闭AI模型的想法，不是唯一的解决方案。如果一个AI模型足够强大，它可以规避关闭尝试——我们在模拟中也见过这种情况。所以它可能根本不起作用。

他用“瑞士奶酪模型”来解释他的安全哲学：“想象一片瑞士奶酪，它能挡住一些东西，但有漏洞。但如果我把五片瑞士奶酪叠在一起，不同层的漏洞位置不同，就很难穿透整个叠层。没有任何一件事能保护我们免受AI风险，我们必须在整个链条上都保持谨慎。”

对于参议员Sanders和众议员Casar提出的“禁止人工超级智能法案”——该法案将对相关企业和个人处以“企业死刑”和最高20年监禁——Amodei明确表示不认同完全禁止的路线：

完全禁止不是正确的方向。我们永远无法获得那些难以置信的好处，永远无法获得医疗突破，这让我无法接受。

个人责任：父亲死于丙肝，他本人曾患早期癌症

访谈接近尾声，Jo Ling Kent问道：面对人类命运可能处于危险之中的局面，你感受到多少个人责任？

Amodei的回答罕见地带有私人色彩。

我父亲死于丙型肝炎，那种病在他去世时大约有40%的治愈率，他不是被治愈的那一个。就在他去世后几年，一种能将治愈率提升至95%的药物被发明出来了。我自己也曾患早期癌症，如果我生活在1950年，我可能已经死了。所以我深切感受到推动这项技术带来好处的重量。 但我也感受到风险。当然，我不想为此负责。这就是为什么我们有非常强大的安全防护。

他同时强调，这不应该只是他一个人或Anthropic一家公司的责任：“这比我们所有人都要大。我们需要找到一种方式，让每个人都能在这件事上有发言权。我不希望人们感到无力。我不希望他们觉得几家公司只是在为所欲为。”

对前员工批评的回应：他说的和我说的是同一件事

Jo Ling Kent提到，前Anthropic员工Jacob Coxin曾公开表示，Anthropic和OpenAI“都没有负责任地行事”，“你们在拿我们的生命赌博”。

Amodei的回应是：

Jacob说的话里有一点没有被引用太多——他也说过，他认为Anthropic是主要参与者中最负责任的，我们非常努力地想把事情做对。他真正指出的，和我正在指出的是同一件事：我们所有人都身处的这种结构性困境，以及我提出的计划正是为了帮助我们解决这个问题。

他补充道，Anthropic每天都在与商务部、财政部和情报界的政府官员沟通，“告诉他们我们所知道的一切”。

给普通用户的话：行业对风险撒谎太久了

访谈最后，Jo Ling Kent问：对于坐在家里使用Claude或ChatGPT的普通用户，你想说什么？

Amodei说：“首先，这是一项伟大的技术，有很多积极用途。我们每周有数亿人在使用我们的技术做美好的事情。每周我都会收到有人写信说，Claude诊断出了他们医生漏诊的疾病。”

但我不会对你撒谎。确实存在真实的危险。 我认为这个行业对人们撒谎太久了，一直把这项技术呈现得尽可能正面。我们从来没有这样做，但行业里太多公司这样做了。 所以，从说真话开始。真相是：风险是真实的。

他最后说：“这是人类历史上最重要的技术事件之一，我们所有人都必须参与其中。”

⭐星标华尔街见闻Max，好内容不错过⭐

本文不构成个人投资建议，不代表平台观点，市场有风险，投资需谨慎，请独立判断和决策。

觉得好看，请点“在看”