人工智能存在约束问题

2026年3月对大型科技公司来说是动荡的一个月。3月18日，Meta决定逐步停止对Horizon Worlds的支持，这是其五年来押注虚拟现实、投入超过700亿美元的最后堡垒，也是其从Facebook更名后的旗舰项目。八天后，OpenAI宣布关闭Sora，其AI视频平台，损失小得多（大多数估计仅为10亿美元）。

在这两项声明之间，Meta和Alphabet被裁定对青少年成瘾负有责任，原因在于其社交媒体算法的设计，这些裁决可能引发成千上万起类似诉讼。那时，美国各地因担心用水量激增和电价飞涨，已暂停或推迟了超过1550亿美元的新数据中心项目。

这些损失、诉讼、抵制和收紧揭示了技术乐观主义者们一再搞错的事情。虽然技术突破开辟了新的可能性，但仅靠突破——即使资源充足、用心良苦的突破——也不足以创造有意义、持久的进步。真正的进步包括决定保留什么、拒绝什么。真正的进步建立在约束之上。

“约束”一词让人联想到限制：预算、时间线和资源。这些现实当然算数，但真正让事情有意义的约束，是我们自己选择的那些——我们划定的关于拒绝什么、坚持什么的界限。

问题不在于我们是否应该接受约束。如果人们做出来的东西被证明有害或无用，我们几乎总是（最终）会对它们加以限制，就像我们对石棉和氢化油等突破性材料所做的那样。真正的问题是何时。而“何时”才是关键。如果我们早早划定界限，突破就能为人创造价值。如果我们划定得太晚，它们就会成为社会的负担。那不是进步。

今天我们正处于人工智能新突破的早期阶段，现在正是认真审视什么才算作进步的好时机。简而言之，进步应该看它结出什么果实来评判，而不仅仅是看生产力的速度。突破总是跑在我们能好好利用它的前头——这正是它们成为突破的原因。但没有约束的突破，会让我们在一堆冒着烟的“我们能做什么”（好的和坏的）里翻来翻去，而不是创造一个建立在什么真正值得做之上的世界。约束不是进步的对立面，恰恰是进步的关键。

设计这个领域，最懂约束的价值。15世纪印刷机的大量涌现，催生了16世纪的排版标准。20世纪初的包豪斯原则，试图通过重拾工艺感和人性，来收拾19世纪末工业时代的混乱局面。90年代的互联网野蛮生长，直到2000年代UI/UX设计才把它理顺。突破扩展了可能性。约束将这些可能性转化为我们真正珍视的东西。

我们现在又走到了同一个循环里，但有两个明显不一样的地方。第一，节奏正在加快。快到连那些发明和塑造AI的人，都没法做三个月以上的规划。（我曾与大型语言模型公司的领导者交谈过，他们说自己的时间线是两周，还有其他软件公司的人以天为单位计算周期。）各种可能性——好的也好，坏的也罢——正在疯狂膨胀。

第二，每有一次突破，我们就挣脱掉之前的约束。老建筑看着好看，一部分原因是当时的建筑技术和材料只能用到砖、木、石头这些自然的东西。今天的建筑师拥有更多自由，但那些造出经典建筑的人明白，他们必须做出极其克制的选择。我们不仅需要围绕新兴技术设置约束，还必须更善于选择约束。有约束的进步，就是对一些事情说“行”，对另一些事情说“不行”。

随着技术突破不断加速，我们设计有价值约束的能力也必须跟上。这并不难想象；问题在于行动意愿。首先要做出常识性的选择，着眼于效果本身，而不纠结于用什么技术——比如，不要破坏你无法修复的东西，不要卖连自己家人都不敢用的东西，不要让孩子上瘾，不要靠别人的绝望赚钱。在此基础上，要制定策略来预见副作用——比如人工智能生成的内容和人工人格可能带来的混乱——并在副作用出现之前就设计好约束机制。

回顾过去能帮我们找到方向和更细腻的视角。和今天一样，过去的设计师与他们那个时代的突破性技术有着不同的关系。有些人，如查尔斯和雷·伊姆斯，拥抱新兴技术并用它们来创造更好的东西。用他们的话说，就是“以最低的成本，为最多的人，创造最好的产品”。另一些人，如维克多·帕帕内克，拒绝大多数技术，主张用简单的方法让DIY反主流文化自己发展起来。

对于那些选择接受当前这轮突破并希望改进它们的人来说，有很多调整工作要做，以使这些技术更有用。现在是时候为人工智能设计更好的用户界面，并且——说来讽刺——帮助人们协作而非竞争。当今无处不在的单人聊天窗口就像早期互联网的蓝色链接：方便是方便，但离真正的潜力还差得远。

持怀疑态度的人会关注那些不良副作用——它们似乎几乎与人工智能突破同时出现，比如原本没有任何征兆的人却出现了人工智能诱发的精神病，或日益令人担忧的“人类衰弱”。其他人则试图完全拒绝这项技术，因为回归面对面、远离数字设备的设计体验正在复兴，而戒除人工智能的方法也越来越多。无论采取哪种方式——接受、怀疑还是拒绝——都可以通过设定约束来创造价值。

这并不是说建设与突破并重的理念完全错误，只是它并不完整。我打个比方吧。在《夺宝奇兵》中，印第安纳·琼斯和他的对手贝洛克正竞相寻找约柜。关键是一枚刻有铭文的圆牌，把它装在高度刚好合适的法杖顶端，就能将阳光折射到地图上，揭示约柜的位置。

两人都有一枚圆牌，但贝洛克的是复制品，只有正面刻着提示。印第的真品背面也有铭文。

贝洛克按照正面的说明制作了他的法杖，说明上说法杖应高6卡达姆（约72英寸）。他照光、标记地点，然后开始挖掘。与此同时，印第找人翻译了背面的铭文。上面还有一条指示：“并减去一卡达姆，以敬奉这约柜所属的神。”正确的高度是5卡达姆，而非6。仅凭一半的说明，贝洛克把法杖做得太高了。他在错误的地方挖掘！

极端技术乐观主义者倡导将突破视为进步的唯一途径，他们正在错误的地方挖掘。他们自信满满——虽然天真，且常常心甘情愿——照着一半的说明行事，仿佛掌握了全部情况。他们相信技术突破就是进步所需要的一切。实际上，突破对于进步来说必不可少，但光有突破还不够。真正的进步既需要抬高标杆，也需要削低标杆。

约束不必针对技术本身（让技术继续快速发展）。约束应该针对技术带来的后果（现在就明确我们不想要什么，这样一旦真的发生了，我们就有现成的办法加以约束）。但要做到这一点，我们不能再假装技术专家掌握着通往进步的道路。尽管突破可能奠定基础，但就连那些正在打造基础AI模型的公司掌门人，也坦然承认自己根本不知道面对的是什么。

发明者的职责是创造新的可能性领域。我们可以因此欣赏他们。但我们不能把进步完全交到懂技术的人手里。技术能力不等于智慧，工程不等于理解，可行不代表值得做——光有可能性也不等于进步。最重要的是，深思熟虑的约束并非反进步；它们恰恰是在捍卫价值。

要构建，要富足，当然可以。但也要把约束当作通往进步的关键一环。设计得当的约束不会阻碍进步——真正的进步恰恰离不开它们。