课程大纲 第 174 课,共 250 课 · 构建智能体(工具调用与 ReAct)
构建智能体(工具调用与 ReAct)

循环防护:max_steps 与重复动作停止

一个能循环的智能体也能永远循环下去。模型糊涂了,重复同一个失败的工具调用,然后你一觉醒来收到一张五位数的账单。防护栏不是可有可无的:它们是演示和你敢放在客户面前的东西之间的区别。两道防护几乎能抓住一切:一个硬性的步数上限,以及重复动作检测。

你要构建 run_with_guard(plan, tools, max_steps)。它运行和之前同一种计划,但它返回的不只是一条轨迹,而是一份小报告:{"status": ..., "trace": [...]},其中 status 是三种结果之一:

  • "max_steps":智能体在完成之前碰到了步数上限。停下并标出它。
  • "loop_detected":智能体试图采取一个它已经采取过的完全相同的动作(同样的工具,同样的参数)。那是一个循环;在它开始打转之前就停下。
  • "done":计划正常完成了(步骤用完了,或者碰到了一个 "finish" 动作)。

记录你见过的动作,这样检测重复的代价就很小。字典不可哈希,所以先把每个动作变成一个可哈希的键:

seen = set()
...
key = (action, repr(args))   # repr makes the args dict hashable
if key in seen:
    return {"status": "loop_detected", "trace": trace}
seen.add(key)

轨迹在停止点截断:当你因为 max_steps 或 loop_detected 停下时,返回到那一刻为止实际运行过的轨迹,而不是整个计划。那条截断的轨迹就是你的事故报告:它准确地显示了智能体是在哪里出的轨。

在记录一步之前先检查步数上限和重复,这样计数才对得上:在 max_steps=3 时,轨迹最多有 3 个条目,而一个重复的动作会在它第二次运行之前就被抓住。按 Run,看三种结果全部触发。

轮到你了

写 run_with_guard(plan, tools, max_steps=10),返回 {"status": ..., "trace": [...]}。当轨迹达到 max_steps 个条目时以 "max_steps" 停止,当一个动作完全重复(同样的工具和参数)时以 "loop_detected" 停止,当计划完成或碰到 "finish" 时以 "done" 停止。在记录每一步之前先检查防护,这样轨迹会在停止点截断。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。