北京
现在人人都在做"AI代理"，但大多数不过是带API调用的聊天机器人。真正在生产环境跑过几十个代理、每天服务数千用户的人，才知道两者的本质区别。
作者的定义很直接：观察→决策→执行→持久化。代理是能在多次交互中保持状态、自主执行多步骤工作流的软件。不是"聊天+函数调用"，不是"带记忆的GPT套壳"。
核心循环有四步。观察：从多个来源摄取数据，包括Webhook、API、用户消息、定时触发器。决策：根据任务复杂度和成本约束，路由到合适的模型。执行：跨多个系统和服务运行工作流。持久化：跨会话、用户和时间维持上下文与状态。
作者举了个实际例子：他的WhatsApp发票处理器不只是提取数据，而是能跨数天保持对话状态，记住用户偏好，自主重试失败的OCR，并在置信度低于阈值时升级给人工审核。这才是代理。
在Oracle云基础设施上大规模运行代理，作者总结了几项刚需。状态管理排在首位——代理没有持久化就会崩溃。他们用Oracle自治数据库存储对话历史、用户上下文和工作流状态，Redis处理会话缓存。每个代理要维护：最近10-50条对话记忆、用户画像数据、工作流状态机、跨会话上下文。
模型路由也很关键。单一模型在生产环境会失败，他们动态路由：Groq的Llama 70B处理高并发低延迟任务（每千token 0.0008欧元）、Claude 3.5 Sonnet负责复杂推理和代码生成、GPT-4 Vision在OCR置信度低时处理文档、本地Whisper模型做语音转录。路由器本身是轻量级分类器，考量token成本、延迟要求、任务复杂度和当前队列深度。
错误处理更不能少。代理 constantly 失败：网络超时、模型幻觉、API限流、响应格式错误。生产级代理需要：带抖动的指数退避重试、关键路径的备用模型、人工升级工作流、优雅降级（部分结果优于无结果）。
怎么区分真假代理？聊天套壳的特征：会话间无状态、依赖单一模型、仅同步请求响应、无自主执行、上下文限于当前会话。真代理的特征：跨周/月保持状态、多模型编排、异步事件驱动执行、自主决策。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
