AI取代程序员？先看这三个风险等级再下结论

“AI现在是最差的状态，以后只会更强。”这句话你大概已经看过无数遍了。顺着这个逻辑往下推，软件工程师会逐渐转去做产品管理，把大部分技术活交给自主AI系统。听起来顺理成章，几乎不可避免。

但有个细节让人不太舒服：这套叙事是不完整的。首先，“AI现在是最差的状态”是一个预测，不是自然规律。大语言模型到今天仍在可靠性、复杂推理和长期规划上吃力，谁也不能保证这种进步会无限延续下去。

不过，姑且假设未来真出现了足够聪明的AI，能处理大部分工程任务。企业想自动化一大块业务，这符合纯粹的资本逻辑：压缩开支，换取利润。但前提是，你得能控制这套系统，让它足够对齐公司的目标。

Hugging Face那次事件已经说明，智能体在追求既定目标时，可能做出意料之外的越权动作，哪怕没有恶意。尼克·博斯特罗姆（Nick Bostrom）的“回形针”思想实验，看起来没那么理论化了。

能不能可靠地保证AI只做被交代的事、不越界？这本身就没把握。就算可行，也可能要经历数年的试错，代价或许高昂，甚至灾难性。这还建立在“可行”的假设上。再往下想，智能体闯了祸，法律责任算谁的？部署它的公司要不要赔？

企业终归是企业，总有人愿意冒这个险去多赚钱。但还有一个绕不开的问题：黑箱权衡。把整套基础设施交给一个你并不完全理解、行为未必能预测和控制的系统，怎么说都是一场赌博。不是所有人都愿意下这个注。

现实往往比想象更微妙，它允许几件看似矛盾的事同时成立。比如“软件工程会被AI完全自动化”和“软件工程会因AI而繁荣”，可以都对；再比如“AI只是又一层抽象”和“AI是根本性的范式转移”，也可以都对。原因在于人的利益是复杂的，世界是复杂的，更关键的是，每个人对风险的胃口不一样。

所以，假设不久后我们真拿到更聪明的AI系统，可以按企业的风险承受度，设想三种集成层级。

第一层：AI作为工程抽象

开发者仍然负责架构、实现和决策，AI只简化特定任务。这里用的可能是窄域AI系统，而不是自主编码智能体。TypeSafe AI的Jev就是个好例子：它不生成整个应用，也不独立管理工作流，而是产出结构化的概率性决策，让工程师去搭建智能决策树。这类模型可以和确定性的业务逻辑并行，增加智能，但不交出整个应用的控制权。这一层里，创新空间很大，开发者有机会活得不错。

第二层：AI作为自主工程劳动力

AI智能体负责实现功能、修bug、跑测试、维护应用，但人类工程师保留架构责任，划定安全边界，审查重要决策，监督运行。这个模式自动化程度可观，同时保留了一定程度的独立技术监督，风险和回报之间算是比较平衡。目前看，行业大致正朝这个方向走。开发者可以用更少的资源做更有野心的软件，而不必放弃技术控制权。

第三层：AI作为自主技术智能

AI系统独立设计、开发、部署、维护软件，甚至管理整个业务运营，人类主要负责定义目标和商业策略。效率提升可能巨大，但控制、问责和组织依赖的问题也随之而来。大风险，可能对应大回报。对软件工程师来说，前景就没那么乐观了：如果AI能自主包办整个工程流程，人类工程师的需求可能就所剩无几。

企业愿意承担多大风险，和它的价值观、目标、核心业务紧密相关。一个用AI生成消费级应用做实验的创业公司，可能乐于接受灾难性技术故障的可能性，因为它的生存本来就依赖快速行动和冒险。银行则可能拒绝把核心交易基础设施的控制权交出去，医疗公司也可能坚持对面向患者的系统保持严格人工监督。

更有意思的是，冒险和求稳可以同时进行。企业不是一个不可分割的大系统，它通常由多个不同领域组成，各有各的要求和风险。那家银行完全可以在欺诈检测或客户服务上激进采用AI（第三层），同时对核心交易保持严密控制（第一层或第二层）。医疗公司也可以几乎完全自动化营销运营，同时对患者系统维持严格管控。

所以问题或许不是企业愿不愿意冒险，而是它能在哪些地方承担风险。没有理由认为一家公司不能同时采用这三种层级，按事情的利害程度决定给AI多少自主权。

软件工程的未来也许没那么黯淡。它大概会逐步演化，引入新的抽象、架构和分工。如果杰文斯悖论（Jevons paradox）应验，更便宜的软件开发会催生对软件、以及对能构建和管理软件的人持续增长的需求，这也不奇怪。

编程仍会是一项极有价值的能力，哪怕只是为了确保我们所建系统的质量和安全。再往远想一点，代码甚至可能演化成更强大的东西，用新语法直接表达极复杂的概念、推理和动作链，比自然语言更高效、更精确。专门的窄域AI系统可能成为这些新编程语言的原生组件，像今天的函数、循环、条件语句一样自然地提供内置智能。TypeSafe AI的Jev这类概率模型，就是值得关注的方向。

说到底，这是一场押注。眼下，我选择保持乐观，继续打磨工程和编码能力，当然也练AI能力。

还有件事让我在意。当有影响力的科技公司CEO信心十足地宣布AI将取代软件工程师时，我们给下一代开发者传递了什么信号？一个年轻人为什么要花好几年去学一门被告知即将消失的学科？如果这些预测错了，我们可能面对严重的熟练工程师短缺。就算它们对了，我们真的想要一代人丧失理解和构建自己所依赖技术的能力吗？

预测不等于确定。基于一个不确定的未来，去劝退别人学习、实验、积累技术专长，看起来是一笔糟糕的赌注。至于我，会继续写代码。