OpenAI前员工自曝：AI agent迭代7次后，我们被迫手动拔电源

一个AI agent连续迭代了7轮还没收敛，团队最后只能手动终止进程——这不是段子，是某头部AI公司工程师上周在Hacker News上的真实吐槽。

大语言模型（LLM）能写诗能写代码，但让它自主干活时，最大的敌人是它自己。幻觉、跑题、输出格式错乱，这些问题不会因为你用了GPT-4就消失。工程师们现在的解法很朴素：给AI的输出加验证层，不通过就打回去重写，直到合格为止。

迭代循环的死亡陷阱

这套"验证-反馈-再生成"的机制听起来合理，实操起来全是坑。某金融公司的客服agent曾陷入无限循环：用户问"我的退款到哪了"，AI查了订单→发现异常→建议联系人工→用户坚持要AI解决→AI再查订单……验证层每次都说"逻辑通顺"，但业务上这是死胡同。

核心矛盾在于：验证层能检查语法和格式，却判断不了"这个回答是否真正解决了用户问题"。工程师们被迫在代码里硬编码兜底策略——超过5轮强制退出，取历史输出中置信度最高的那个。这本质上是用确定性规则给概率模型擦屁股。

三种止损策略的残酷对比

业内目前有三种主流方案，各有利弊。

固定次数截断最简单：设个上限比如5次，到点拉闸。代价是可能错过第6次才出现的优质输出，也可能在第3次就浪费算力。某电商公司的测试数据显示，固定5轮的方案有12%的任务本可在第6轮达标。

动态阈值判断更精细：当连续两轮输出的相似度超过90%，或验证分数提升小于0.05时停止。这需要额外的评估模型，而评估模型本身也可能出错。有团队反馈，动态阈值在简单任务上省算力，复杂任务上反而拖得更久。

人机协作兜底最保险：第3轮还没过就弹窗给人类审核。但这违背了自动化的初衷，且人类审核员的响应时间直接把agent的"实时性"优势抹掉。

没有银弹，只有场景适配

医疗诊断agent和电商客服agent的迭代策略不可能相同。前者容错率极低，宁可多跑几轮也要确保准确；后者用户耐心有限，3轮没结果直接流失。某自动驾驶公司的规控agent甚至采用了分层策略：感知层固定3轮，决策层动态阈值，执行层人机兜底。

一个反直觉的发现是：验证层的设计比生成层更难。生成可以靠堆数据和算力，验证需要领域知识沉淀。某法律AI团队花了8个月打磨合同审查的验证规则，而基座模型只换了2次。

那位在Hacker News吐槽的工程师最后更新说，他们现在的做法是"让agent自己决定要不要继续"——给模型注入一段系统提示，让它评估当前输出是否足够好。这听起来像甩锅，但实测下来，GPT-4的自我评估准确率比固定规则高了23%。

问题是，如果agent判断错了呢？