Chương trình học Bài 172 trên tổng số 250 · Xây dựng Agents (Tool-Use & ReAct)
Xây dựng Agents (Tool-Use & ReAct)

Vòng lặp ReAct trên các Mock Tools

Bỏ qua các thuật ngữ tiếp thị thì một "AI agent" là một vòng lặp. Mô hình không tự nhiên thực hiện hành động; mã của bạn mới làm việc đó. Cấu trúc là ReAct: Reason về việc cần làm, thực hiện một Action bằng cách gọi một công cụ, Observe kết quả, sau đó lặp lại cho đến khi hoàn thành nhiệm vụ. Mô hình chỉ tạo ra văn bản; vòng lặp bao quanh nó biến văn bản đó thành các lệnh gọi công cụ thực tế và đưa kết quả trở lại.

Bước suy luận là LLM, và nó không mang tính xác định, nên chúng ta không thể unit-test nó. Nhưng mọi thứ xung quanh nó is mang tính xác định và chính là những thứ bị lỗi trong production: phần dispatch, phần xử lý observation, điều kiện dừng. Vì vậy chúng ta test vòng lặp bằng cách thay thế công việc của model bằng một scripted plan - một danh sách cố định các (tool, args)actions. Đó là cách bạn thực sự unit-test một agent: cố định plan, assert trace.

Bạn sẽ xây dựng run_agent(plan, tools, max_steps). plan là một danh sách các bước giống như ("lookup", {"country": "France"}). tools là một dict ánh xạ tên công cụ tới một Python function nhận vào dict args và trả về một observation. Với mỗi bước bạn gọi công cụ tương ứng và thêm một triple (tool, args, observation) vào một trace - nhật ký kiểm tra những gì agent đã làm.

def run_agent(plan, tools, max_steps=10):
    trace = []
    for action, args in plan:
        if len(trace) >= max_steps:
            break
        if action == "finish":
            break
        observation = tools[action](args)
        trace.append((action, args, observation))
    return trace

Các quy tắc:

  • Với mỗi bước, hãy gọi tools[action](args) và ghi lại (action, args, observation) theo thứ tự.
  • A "finish" kết thúc vòng lặp ngay lập tức và không được ghi lại trong trace (đó là một tín hiệu, không phải là một tool call).
  • Dừng lại khi trace đã chứa max_steps entries, ngay cả khi plan có nhiều bước hơn - cái guard đó ngăn chặn một agent chạy quá đà.
  • Nếu một bước không có args, hãy coi nó là một dict trống.

Trong một ứng dụng thực tế, LLM sẽ gửi mỗi hành động tiếp theo dưới dạng JSON và vòng lặp tương tự sẽ chạy nó, vì vậy bạn có thể thay thế kế hoạch đã viết sẵn bằng đầu ra của mô hình trực tiếp mà không cần chạm vào vòng lặp. Người hướng dẫn trên thiết bị có thể điều khiển trực tiếp vòng lặp này, nhưng việc chấm điểm chỉ luôn nhìn vào trace mang tính xác định. Nhấn Run để xem một kế hoạch hai bước thực thi: tra cứu một chữ cái viết hoa, sau đó thực hiện một số phép tính, rồi kết thúc.

Cái bạn vừa xây dựng có một cái tên trong ngành. Vòng lặp quan sát-suy nghĩ-hành động này là cốt lõi của mọi framework agent: LangGraph và các thư viện tương tự cung cấp cho bạn vòng lặp này dưới dạng một đồ thị các nodes, các agent APIs được host chạy nó ở phía nhà cung cấp, và một MCP client thực chất chỉ là vòng lặp này được kết nối với các công cụ mà nó khám phá qua một giao thức. Chúng thêm vào streaming, retries, persistence và tracing, nhưng bộ máy chính xác là vòng lặp bạn đã viết. Việc xây dựng nó từ đầu một lần là điều làm cho các framework đó dễ hiểu thay vì là phép thuật: bạn sẽ biết chính xác phần nào mà mỗi cái đang tự động hóa.

Đến lượt bạn

Viết run_agent(plan, tools, max_steps=10) thực thi một kế hoạch kịch bản gồm (tool, args) bước chống lại một mock tool registry. Với mỗi bước, gọi tools[action](args) và thêm (action, args, observation) vào một trace list. Một hành động "finish" dừng vòng lặp và không được ghi lại; dừng khi trace chứa max_steps mục. Trả về trace.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.