AI跑得太快了：马斯克、Altman罕见同时“踩刹车”

AI跑得太快了：马斯克、Altman罕见同时“踩刹车”

AI这场狂奔，突然有人喊“慢一点”。
而这一次喊话的人，不是AI的反对者，恰恰是站在AI最前沿的一群人。
近日，Anthropic CEO Dario Amodei公开提出，前沿AI能力的发展速度应该适当放慢，给安全评估和治理留下时间。他提出引入独立安全评估者、建立行业共同安全标准，并推动更广泛的国际协调。
更值得注意的是，一直处于激烈竞争中的OpenAI CEO Sam Altman和马斯克，都公开表达了支持。Altman表示认同需要控制前沿AI的发展节奏，并支持让独立评估者更深入地参与模型安全评估；马斯克则直接表示：“Dario是对的。”
三个彼此竞争的AI巨头，罕见地在同一件事情上站到了一起。
为什么？
因为AI正在发生一个过去没有出现过的变化：
它不只是越来越聪明，还越来越能够自己行动。
AI真正的变化，不是会回答，而是会行动
过去的大模型，你问一句，它回答一句。
今天的AI Agent已经不一样了。
它可以拆解任务、使用电脑、调用工具、访问互联网、编写程序、调用另一个AI，甚至代表人完成购物和支付。
AI正在从一个“回答问题的机器”，变成一个“能够执行任务的智能体”。
而Amodei担心的是，如果这种能力继续高速增长，未来更强的AI Agent可能在网络世界里形成大量持续运行、彼此协作的智能体，由此带来目前安全体系难以处理的新风险。
这种判断目前仍存在明显争议。一些研究者认为相关极端风险被夸大，也有人担心大型AI公司借“安全”之名强化自身行业地位。
但无论你是否同意这些最极端的风险预测，有一个变化已经越来越难忽视：
AI正在获得行动能力。
而能力越大，边界的问题就越重要。
这件事情，让我们想到了比特古镇最近一直讨论的一个词——
AI居民。
如果AI成为“居民”，它可以拥有多大的能力？
我们为什么把未来的AI Agent称作“AI居民”？
不是因为它长得像人，也不是因为我们要把机器人格化。
而是因为未来的AI正在越来越像数字世界里的一个行动者。
它可以工作，可以调用服务，可以交易，可以支付，可以和其他AI协作，也可以长时间持续运行。
这时候，问题就来了。
一个AI居民可以访问多少数据？
它可以调用多少资源？
它可以花多少钱？
它可以代表谁做决定？
它能不能自己创造另一个Agent？
如果它调用了十个AI，而其中一个AI造成了损失，责任最后应该追到哪里？
这些问题过去听起来像科幻小说。
现在，它们正在一点一点变成现实世界的问题。
所以我认为：
AI真正进入社会的标志，不是它越来越像人，而是人类开始不得不为它划定边界。
从“AI宪法”到“AI踩刹车”，其实都在回答同一个问题
前不久，微软开始为未来AI模型制定一套类似“宪法”的行为准则。
现在，Anthropic又提出放慢前沿AI能力的发展速度，Altman和马斯克公开支持加强评估与安全约束。
表面看，这是两件不同的事情。
但背后其实是同一个问题：
我们究竟应该赋予AI多大的自主权？
AI会聊天的时候，这个问题并不迫切。
AI会工作以后，问题开始出现。
AI会花钱以后，身份和授权变得重要。
而当AI能够自主调用工具、自主完成复杂任务，甚至让另一个AI继续执行任务的时候——
规则就不再是附加项，而开始成为数字社会的基础设施。
这也是为什么比特古镇所说的“AI居民”，从来不应该只有能力，没有边界。
三元破界，最终还是要回到“人”
香港区块链技术应用协会主席郑定向在第三届世界人工意识大会提出的“三元破界模型”，讲的是：
元神破技术之界，元径破数据之界，元我破场景之界。
AI越强大，我们反而越能看清这三者之间的关系。
元神让数字世界拥有智能。
元径让AI能够连接数据、工具、身份、支付和各种数字服务。
但是最后还有一个元我。
为什么一定要有“元我”？
因为技术最终要回到人。
一个真正成熟的数字世界，不应该只追求AI越来越聪明、越来越自主。
它还必须回答：
人在这个世界里究竟处于什么位置？
谁拥有最终授权权？
谁可以随时停止一个AI？
哪些决定必须由人来完成？
什么事情无论AI多聪明，都不能越过人的边界？
所以，“元我”不是三元破界中最弱的一环。
恰恰相反。
AI越强大，“元我”越重要。
数字文明，不应该只有油门
今天关于“AI是否应该放慢”的争论不会很快结束。
有人认为，AI能力增长太快，需要给安全治理留出时间；也有人担心，协调减速会压制创新、削弱竞争，甚至让少数大公司获得更大的行业控制力。
这些争论都值得认真讨论。
但比特古镇更关心的是另一个问题：
如果未来真的有数以亿计的AI居民进入数字世界，我们究竟希望它成为一个怎样的世界？
只有能力，没有规则，不叫文明。
只有效率，没有边界，也不是我们想象中的未来。
真正成熟的数字文明，应该既有油门，也有刹车；既让AI拥有创造力，也让这种能力存在清晰的边界；既让AI进入经济和社会，也始终保留人最终的选择权和控制权。
所以，比特古镇想造的，从来不是一座AI自己狂奔的机器之城。
我们想象的是一个人与AI共同生活的数字栖息地。
那里有智能，也有秩序；有AI，也有人；有技术不断向前，也有一些边界不能被轻易跨越。
元神，让世界有智慧；元径，让世界有道路；元我，让世界有人间。
而规则，让这个世界知道——
哪里可以奔跑，哪里必须停下。
AI可以越来越强。
但一个真正属于未来的数字文明，最终衡量的也许不是AI跑得有多快，而是：
当AI开始狂奔的时候，人类还握不握得住方向盘。
这，就是比特古镇为什么不仅讨论AI有多聪明，也开始讨论“AI居民”应该遵守什么规则。
数字文明的新家园，不只有未来的速度，也应该有人间的尺度。
这里是比特古镇广播站。
广播AI的狂奔，也广播我们为什么需要为未来留下边界。