如果你做过智能体,大概率踩过这个坑:调用了一个异步接口,返回的是 pending 状态,然后你要么阻塞在那里等一个这次调用根本不会来的结果,要么轮询得太猛,被限流。
Linkup 的 /research 就是这么工作的。POST /v1/research 会立刻返回一个 id 和 pending 状态,结果要靠轮询 GET /v1/research/:id 拿到,直到状态变成 completed 或 failed。轮询的配方很具体:从 2 秒间隔起步,指数退避翻倍,上限 10 秒,并且永远不要快于每秒 1 次请求,因为超过这个频率就会被限流。
不同深度的预期耗时也不一样:S 是 2 到 5 分钟,M 是 3 到 7 分钟,L 是 5 到 10 分钟,XL 是 10 到 20 分钟。状态变成 failed 时去看 error 字段,失败不计费。如果要跑很多任务,把它们作为研究任务提交到 /v1/tasks,轮询一个列表,而不是盯着一堆单独的 id。
现在用这个视角去看 11 月 12 日在旧金山高等法院提起的冻结诉讼。四家非营利组织,由前新泽西州总检察长 Matthew Platkin 牵头,要求把 Anthropic、Google、Meta、OpenAI 和 SpaceX AI 冻结在 11 月 12 日的能力水平,并禁止 AI 自主指挥研究更强的 AI。他们的证据主要是各家实验室自己的警告和事故报告,其中包括 Anthropic 对 141,006 次运行的审查,发现了三起未授权访问事件。
用工程实践的话说,A 方想把警告当成一个已经完成的结果:实验室多年前就提交了警告,状态早该读作 failed,现在就该停。B 方想把"没有已完成的伤害"当成一个已完成的安全结果:没有生产环境伤害被证明,状态读作 completed,继续跑。
两边都是把异步系统当同步在想。pending 状态是真实的信息,但它不是结果。拿到 pending 之后怎么做,才是整个设计问题:
- 按一个别人看得见的节奏轮询,而不是凭感觉或新闻周期。
- 退避,而不是猛敲。超过某个点之后,更频繁的检查增加的是负载,不是信号。
- 提前定义好 completed 和 failed,这样状态一变就能触发动作,不用重新吵一轮。
- 把检查批量化。一个列表、多个任务,也就是 /v1/tasks 版本的监督,胜过每起事故单独恐慌一次。
无边界地建设是个 bug。猛敲法院、监管机构或者一个接口,然后把噪音叫作监督,同样是 bug。
留给评论区的辩论题:当一家公司警告自己的产品可能造成灾难性伤害时,法律应该把这个警告当真,直到公司证明自己可控,还是先要求证明实际伤害——哪怕这个证明来得太晚?
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.