Bảo vệ vòng lặp: max_steps & Dừng hành động lặp lại
Một agent có khả năng lặp có thể lặp vô tận. Mô hình sẽ bị bối rối, lặp lại cùng một tool call bị lỗi, và bạn sẽ thức dậy với một hóa đơn năm chữ số. Guard rails không phải là tùy chọn. Chúng là sự khác biệt giữa một bản demo và thứ bạn có thể đưa cho khách hàng. Hai guards bắt được hầu hết mọi thứ: một hard step ceiling, và repeated-action detection.
Bạn sẽ xây dựng run_with_guard(plan, tools, max_steps). Nó chạy cùng một loại kế hoạch như trước, nhưng thay vì chỉ là một trace, nó trả về một báo cáo nhỏ: {"status": ..., "trace": [...]}, trong đó status là một trong ba kết quả:
"max_steps"- agent đã chạm trần bước trước khi hoàn tất. Dừng và đánh dấu nó."loop_detected"- agent đã thử hành động giống hệt (cùng tool, cùng args) mà nó đã thực hiện trước đó. Đó là một vòng lặp; hãy dừng lại trước khi nó chạy vô tận."done"- kế hoạch đã hoàn thành bình thường (nó đã hết bước hoặc gặp một hành động"finish").
Theo dõi các hành động bạn đã thấy để việc phát hiện lặp lại trở nên dễ dàng. Một dict không thể băm được, vì vậy hãy chuyển mỗi hành động thành một key có thể băm trước:
seen = set()
...
key = (action, repr(args)) # repr makes the args dict hashable
if key in seen:
return {"status": "loop_detected", "trace": trace}
seen.add(key)Dấu vết bị cắt ngắn tại điểm dừng: khi bạn dừng lại ở max_steps hoặc loop_detected, hãy trả về dấu vết của những gì thực sự đã chạy cho đến thời điểm đó, không phải toàn bộ kế hoạch. Dấu vết bị cắt ngắn đó là báo cáo sự cố của bạn. Nó cho thấy chính xác nơi agent đi chệch hướng.
Kiểm tra giới hạn bước và số lần lặp trước khighi lại một bước, để các số đếm khớp nhau: với max_steps=3vết lưu giữ tối đa 3 mục, và một hành động lặp lại sẽ bị bắt trước khi nó chạy lần thứ hai. Nhấn Run để xem cả ba kết quả chạy.
Viết run_with_guard(plan, tools, max_steps=10) trả về {"status": ..., "trace": [...]}. Dừng với "max_steps" khi trace đạt đến max_steps entries, với "loop_detected" khi một hành động lặp lại chính xác (cùng tool và args), và với "done" khi plan hoàn tất hoặc gặp "finish". Kiểm tra các guards trước khi ghi lại mỗi bước để trace bị cắt ngắn tại điểm dừng.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.