Chương trình học Bài 115 trên tổng số 250 · Gọi một LLM thực thụ
Gọi một LLM thực thụ

Xây dựng Messages Payload

Mỗi lần gọi mô hình chat chỉ là một yêu cầu HTTP mang theo nội dung JSON, và việc chuẩn bị đúng nội dung đó là điều đầu tiên mã nguồn thực tế thực hiện. Trong suốt học phần này, bạn sẽ tự tay xây dựng chính xác các dicts và lists mà Anthropic API tiêu thụ và trả về bằng Python thuần -> vì vậy toàn bộ quá trình sẽ chạy ngoại tuyến và có thể được chấm điểm. Mỗi bài học cũng cho bạn thấy dòng mã thực tế duy nhất mà bạn sẽ chạy với một API key trên máy của riêng mình. Các cấu trúc bạn xây dựng ở đây LÀ các cấu trúc sẽ được gửi qua mạng.

Sau khi cài đặt SDK, việc gửi một tin nhắn sẽ trông như thế này (chỉ là minh họa -> chúng ta không gọi mạng ở đây):

import anthropic
client = anthropic.Anthropic()   # reads ANTHROPIC_API_KEY from the environment
resp = client.messages.create(
    model="claude-opus-5-5",
    max_tokens=1024,
    system="You are a terse assistant.",
    messages=[{"role": "user", "content": "Hello"}],
)

Hãy chú ý đến cấu trúc: system là trường cấp cao của nó (nó KHÔNG phải là một tin nhắn), và messages là một danh sách các lượt, mỗi lượt là một dict với role và content. Các vai trò hợp lệ duy nhất bên trong messages là "user" và "assistant", luân phiên như một cuộc hội thoại. Một lỗi phổ biến là đặt các hướng dẫn vào một lượt {"role": "system", ...} ở đầu messages, giống như cách một số API khác làm. Anthropic API từ chối một lượt hệ thống làm tin nhắn đầu tiên: prompt hệ thống có vị trí cấp cao riêng của nó. (Các mô hình Claude gần đây có chấp nhận một tin nhắn hệ thống sau đó trong cuộc hội thoại, cho một hướng dẫn đến ở giữa chừng, nhưng đó là một tính năng nâng cao; khóa học này luôn sử dụng vị trí cấp cao, vì vậy build_request của bạn sẽ từ chối bất kỳ lượt hệ thống nào.)

Bạn đang xây dựng build_request(system, messages, model="claude-opus-5-5", max_tokens=1024). Nó trả về dict của request:

{"model": ..., "max_tokens": ..., "system": ..., "messages": [...]}
  • Copy model và max_tokens trực tiếp qua, và đặt system vào khóa riêng của nó.
  • Với mỗi lượt trong messages, hãy kiểm tra xem role có chính xác là "user" hoặc "assistant" hay không. Bất kỳ thứ gì khác (một lượt "system", một lỗi đánh máy như "User", hoặc thiếu role) đều phải gây ra một ValueError -> thất bại ngay lập tức trước khi bạn gọi API và lãng phí một lượt gửi đi.
  • Trả về các lượt trong messages không thay đổi (cùng thứ tự, cùng nội dung).

Đây là lời gọi thực tế bạn sẽ thực hiện với dict vừa xây dựng; ** giải nén dict thành các keyword arguments:

resp = client.messages.create(**build_request("Be brief.", history))

Xây dựng sao cho hai cặp (system, messages) khác nhau tạo ra hai dict request khác nhau, và một lượt với role khác user hoặc assistant sẽ gây lỗi.

Đến lượt bạn

Viết build_request(system, messages, model="claude-opus-5-5", max_tokens=1024) trả về dict yêu cầu dạng Anthropic {"model", "max_tokens", "system", "messages"}. messages là một danh sách các lượt {"role", "content"}. Kiểm tra mọi role phải chính xác là "user" hoặc "assistant" và gây ra lỗi ValueError với bất kỳ trường hợp nào khác (bao gồm cả lượt "system" bị lén lút đưa vào). Trả về các lượt không thay đổi.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.