一个可靠的 Agent,应该先设计什么?
从任务边界、状态到退出条件,把一次模型调用组织成可观测、可恢复的执行过程。
让模型调用工具并不困难。真正需要设计的是:它在什么时候继续,什么时候停止,以及失败以后如何恢复。
先把任务边界写清楚
一个 Agent 应当有可检查的目标。例如“读取本周的工单,按主题整理成草稿”,比“帮我处理客户问题”更容易实现和评估。输入、输出、允许调用的工具,以及需要人工确认的动作,都应该成为任务定义的一部分。
如果任务可以拆成固定的几个步骤,先使用工作流。只有当下一步确实依赖中间结果时,才需要引入由模型选择动作的循环。明确的流程通常更容易调试,也更容易控制成本。
状态应当独立于聊天记录
聊天记录保存了对话,但它不适合承担全部业务状态。任务的进度、已经完成的动作和等待处理的错误,最好保存在显式的数据结构中。
{
"task_id": "weekly-support-digest",
"status": "waiting_for_review",
"completed_steps": ["read_tickets", "group_topics"],
"next_action": "review_draft"
}
显式状态可以帮助系统在进程重启后恢复,也能避免把“模型说已经完成”误认为“业务操作已经成功”。工具的实际返回值才是判断动作结果的依据。
给执行过程设置预算
除了 token 预算,还应设置工具调用次数、总执行时长和重试次数。遇到同一个错误连续出现时,应当记录原因并停止,或者转交人工处理。无限重试只会把小故障变成持续消耗。
让每一步都可以解释
记录动作名称、经过脱敏的参数、执行结果和耗时,就能回答“为什么停在这里”。不要默认保存密钥、访问令牌或完整的个人数据。可观测性应该帮助排查问题,而不是制造另一份敏感数据副本。
一个实用的起点是:一个目标、一组受限工具、一份持久化状态,以及清晰的停止规则。先让这条路径稳定运行,再考虑多 Agent 协作。