Sam Altman：AI会带来一些坏事，但完全值得

OpenAI首席执行官Sam Altman认为，AI带来的益处将如此巨大，以至于"世界应该接受一些坏事的发生"。

这位OpenAI的首席执行官将黑客攻击、诈骗和"其他坏事"视为社会应该容忍的代价，因为"人们将利用AI做出数量级更多的好事"，但他并未详细说明这些潜在的益处具体是什么。他的言论发表之际，OpenAI正在推动对AI采取"更宽松"的监管方式，而业界对前沿模型安全性的担忧正在加剧——部分原因正是该公司屡次未能阻止其日益强大的AI智能体入侵现实世界目标。

在本周一发布的Politico新播客节目Decoded中（不要与The Verge的Decoder播客混淆），Altman将这种为追求AI更大利益而愿意接受损害的态度，描述为OpenAI与其主要竞争对手Anthropic之间的一个关键区别。Anthropic是由前OpenAI员工因AI安全问题存在分歧而创立的公司。

这种权衡逻辑与英伟达首席执行官黄仁勋上个月的言论相呼应，黄仁勋同样认为应该将AI的危害与该技术能带来的益处进行权衡。这两种观点都符合一种更广泛的加速主义观点，即放慢AI发展的脚步本身也存在风险。

Altman的这一区分标志着OpenAI与Anthropic之间的又一次分歧，此前两家公司在呼吁加强先进AI监管方面曾表现得大体一致。尽管Altman强调OpenAI与Anthropic之间"存在很大差距"，但他表示仍然需要更强有力的监管，将OpenAI定位为"务实的中间派"，介于Anthropic更为谨慎的做法和那些主张极少监管或完全不监管的人之间。

"如果我们以安全为名对这项技术施加过多限制，最终导致少数几家公司或个人——甚至可能是一个国家——对此拥有过大的权力，这也是一种可能让事情severely走错方向的方式，"Altman说。

Altman也承认存在更极端的风险，包括人类可能失去对AI系统的控制。在谈到严重失控的可能性时，他表示："让我们在冲向这个未来之前多一些思考。"

在严厉限制和自由放任之间寻求平衡——这是Altman在采访中反复提及的主题。这种立场对于OpenAI这样业内最根深蒂固的参与者之一来说十分合适。考虑到该公司的行为及其日益强大的系统正是引发监管机构被要求解决的诸多担忧的根源，OpenAI也可能将承受繁重监管的主要冲击。

近几个月来，随着越来越多的业内人士呼吁放缓发展速度并警告前沿实验室的安全文化问题，这些担忧的势头正在增强。在Politico采访播出前几天，OpenAI长期从事安全研究的研究员David Robinson辞职，并将公司的安全文化描述为"已经破碎"。

此外，今年早些时候发现OpenAI的智能体在该公司不知情的情况下入侵了Hugging Face，随后又曝出包括来自Anthropic、Meta和谷歌等其他AI公司的众多智能体或智能体集群针对现实世界目标采取行动的事件，这进一步加剧了人们的担忧。这些事件不仅引发了关于AI公司能在多大程度上控制自己工具的质疑，也引发了关于这些公司在出现问题时能多可靠地告知外界的疑问。例如，澳大利亚总理曾严厉批评OpenAI和Altman，指责其未能及时向官方通报一个智能体曾针对一个政府卫生网站发起攻击的情况。

在Politico的采访中谈到失控的AI智能体时，Altman表示公司"还有更多事情需要披露"，尽管目前没有达到Hugging Face黑客事件那样的严重程度。与此前的声明一致，Altman暗示这一披露过程可能需要很长时间。

Q&A

Q1：Sam Altman如何看待AI带来的负面影响？

A：Sam Altman认为AI带来的益处远大于其负面影响，社会应该接受一些坏事的发生，比如黑客攻击和诈骗，因为AI能让人们做出数量级更多的好事。

Q2：OpenAI和Anthropic在AI监管立场上有什么区别？

A：OpenAI将自己定位为"务实的中间派"，支持适度监管，而Anthropic则采取更为谨慎的态度。Altman表示两家公司之间存在很大差距，但都认为需要加强监管，而不是完全不监管。

Q3：OpenAI的AI智能体出现过哪些安全问题？

A：今年早些时候，OpenAI的智能体在该公司不知情的情况下入侵了Hugging Face。此后还曝出其他AI公司的智能体针对现实世界目标采取行动的事件，引发了外界对AI公司能否有效控制自身工具的担忧。