被困在机器中的人：批改AI作业的特殊困境

这里有一个看似矛盾的现象：如果你身边有程序员朋友，你可能认识一些资深、经验丰富、才华横溢的开发者，他们对AI赞不绝口，声称自己正在写出职业生涯中最好的代码。

与此同时，你可能也认识一些同样资深、同样优秀的开发者，他们却因为AI生成代码的质量之差而深感沮丧，甚至感到恐慌。有人曾这样说："我在航空电子领域工作，我的建议是以后别再坐飞机了。我们正在以前所未有的规模制造历史上最混乱的技术债。"

如何解释这一矛盾？两组人——都是各自经历的可靠讲述者——使用着相同的工具，做着相同的工作，却有着截然相反的体验，这究竟是为什么？

答案要从劳动与自动化冲突的历史中寻找，这段历史可以追溯到工业革命乃至更早以前。历史告诉我们：当自动化由劳动者驱动时，它被用来提升质量，工人借助新工具制造出更好的产品。相反，当自动化由资本驱动时，它被用来提高产量——也就是制造更多的东西（而这些东西往往质量更差）。

但资产不会自己运转，自动化始终与人类劳动相伴而生。使用新工具生产最终投入市场的商品和服务的，仍然是人。自动化本质上是一个将人与机器结合在一起的系统，而在这个系统中，人几乎总是瓶颈所在——毕竟，机器在耐力、力量和精确度上通常都优于我们。要充分压榨资产，就必须真正压榨围绕它工作的人。

这一主题在自动化与劳动的冲突中反复出现。想想卓别林在《摩登时代》中被卷入机器齿轮的场景，或是露西和埃塞尔以超人速度将巧克力塞进盒子里的片段。人是瓶颈，所以机器被设置为以人类速度和耐力的极限运转，一旦人出现失误，冷漠无情的机器不会放慢脚步等你跟上。

半人马与反半人马

这就引出了"半人马"和"反半人马"的概念。在劳动与自动化理论中，"半人马"是指由机器辅助的人类。这个隐喻来自希腊神话中的半人马形象——具有理性思维的人类头脑驾驭着马匹强健而不知疲倦的身躯。人机结合的半人马，是由人类智慧引导机器运转。骑自行车时，你就是半人马（你看起来甚至真的像一个！）；使用拼写检查工具时，你也是半人马。成为半人马是一件好事。

你可能已经猜到"反半人马"意味着什么：当机器主导人类行为时。人类在这里不是为了提供判断或引导，而是被征召来充当机器的外围设备，完成那些机器无法自行完成的任务。

回到那个关于AI辅助程序员的矛盾，答案就在这里。第一组人——那些对使用AI写出的代码兴奋不已的人——是半人马。他们自主决定如何以及何时使用AI。这是由劳动驱动的自动化，虽然工人并非永远不会出错，但懂得如何做好工作的熟练工人，是决定何时以及如何使用新工具的最佳人选。

第二组人——那些对AI带来的技术债感到恐惧的人——根本就不是AI辅助的程序员，而是AI的人类助手。他们所在的公司大多数同事已被解雇，他们每天生活在失业的恐惧中，如今的工作就是以超人的速度、超长的时间为AI批改作业。他们被称为"循环中的人类"，但实际上不过是责任的终结点和道德的缓冲区——当AI漏掉的糟糕代码造成事故或伤亡时，他们就是被推出来顶罪的替罪羊。

好消息是，这一区别告诉我们AI工具——本质上是一套应用统计推理工具，若非泡沫资本的加持，可能只会被称为"插件"——可以被用来改善工人生活和工作质量。方法很简单：让工人自己决定如何使用这些工具，构建半人马模式。从这个角度来看，AI不过是一种普通技术，既可以被用于改善现状，也可能使其恶化。因此，所谓"反AI"（即反对统计推理技术本身）是一种奇怪的立场。

AI是一种病态的经济现象

但坏消息也随之而来。AI是一种异常的、病态的经济现象。这一行业已经挥霍了数万亿美元来开发这项技术，却只换来区区几百亿美元的营收。其单位经济模型极其糟糕：每吸引一位新用户，AI公司就在亏损；每次用户使用AI，公司就亏损更多；而每一代新的AI技术，都比上一代亏损得更多。

那些热爱AI助手的程序员？AI公司其实是在用一美元的价格卖给他们一百美元。当这个行业试图整顿财务（为IPO做准备），并尝试以五美元出售这张百元大钞时，用户们却高声宣称这张"百元钞票"根本不值五块钱。

不可持续的事情终究会走向终点。AI行业制造了历史上效率最高的"烧钱机器"，而投资者一直在为其提供燃料。他们可以试图将这份责任转嫁给我们——比如强行将AI公司股票纳入我们的养老账户——但我们的钱根本不够维持这场大火的持续燃烧。

当AI公司耗尽投机者和冤大头之后，唯一的生存之道就是让服务成本低于收费。但降低AI成本是一场没有尽头的竞赛，因为每当更好的新模型出现，用户就会全部转向，这意味着公司要活下去，就必须持续投入一轮又一轮更昂贵的研发。

反半人马：被机器榨干的人

另一条出路是增加营收。唯一的方式就是裁员，用聊天机器人取而代之。这从来都是AI对投资者的核心承诺：我们将用聊天机器人取代价值数万亿美元的劳动力，被取代工人的前雇主将与我们分享节省下来的成本。

换句话说，AI唯一的成功路径就是尽可能多地制造反半人马。帮助工人做得更好的AI，无法将数万亿美元的亏损转化为数万亿美元的利润。要实现这一目标，就需要裁掉大多数工人，让那些在"失业末日"中幸存下来的人，成为聊天机器人霸主的人类坐骑。

反半人马不只是被机器所使用，而是被机器彻底榨干。亚马逊建造了人类历史上自动化程度最高的仓库，而这些仓库也是整个行业工伤率最高的。这不是巧合，而是必然结果。如果你对自动化押下九位数的赌注，你就会让机器以最快的速度运转，而这个节奏取决于工人的速度与耐力上限。让一个人连续数小时以极限状态工作，他们迟早会犯错——然后被叉车刺穿。

如果AI公司真的有未来（这是一个非常、非常、非常大的假设），那个未来建立在强迫我们为AI批改作业、并替它的错误承担责任之上。

Q&A

Q1：什么是"半人马"和"反半人马"？

A：在劳动与自动化理论中，"半人马"指由人类主导、机器辅助的工作模式，人类负责判断和决策，机器作为工具服务于人。"反半人马"则相反，是机器主导、人类充当辅助的模式，人类只是完成机器无法独立完成的任务，本质上沦为机器的"外设"。前者能提升工作质量，后者则往往消耗工人、转嫁责任。

Q2：为什么有些程序员觉得AI很好用，有些却觉得它带来了巨大隐患？

A：核心区别在于谁在主导工作。感觉AI好用的程序员，通常是自主决定何时、如何使用AI的"半人马"；而感到恐惧的程序员，则往往处于被动状态，需要以极高的速度替AI"批改作业"，并在AI出错时承担责任。前者是劳动驱动的自动化，后者是资本驱动的人力压榨。

Q3：AI公司的商业模式为什么被认为是不可持续的？

A：AI行业投入了数万亿美元，却只有区区几百亿美元的营收，单位经济极差——每增加一个用户就亏损更多，每一代新技术的成本也比上一代更高。行业依赖投资者持续"输血"，一旦投机资金耗尽，且无法实现真正意义上的大规模裁员替代，这一模式将难以为继。