Chương trình học Bài 136 trên tổng số 250 · Đầu ra có cấu trúc và gọi hàm/công cụ
Đầu ra có cấu trúc và gọi hàm/công cụ

Chế độ JSON: phân tích + kiểm tra theo một schema

Ngay khi bạn muốn một LLM cung cấp dữ liệu cho một hệ thống phía sau -> một cơ sở dữ liệu, một API, một tác vụ tính tiền -> văn xuôi tự do là vô dụng. Bạn cần đầu ra có cấu trúc: mô hình trả về JSON, và mã của bạn biến JSON đó thành một đối tượng có kiểu mà nó có thể tin. Phần lớn API mô hình có một "chế độ JSON" khiến mô hình phát ra một chuỗi JSON. Nhưng "nó là JSON hợp lệ" và "nó là đối tượng tôi yêu cầu" là hai chuyện khác nhau. Ranh giới giữa mô hình và mã của bạn là nơi bạn kiểm tra.

Trong mã thật, lệnh gọi mô hình trông như thế này (chỉ minh họa -> ở đây ta không gọi mô hình nào):

resp = client.messages.create(model="...", messages=[...])
text = resp.content[0].text          # a JSON string, hopefully
record = parse_and_validate(text, {"name": str, "age": int})

Bạn đang xây parse_and_validate(text, schema). schema là một dict ánh xạ mỗi trường bắt buộc tới kiểu Python của nó, như {"name": str, "age": int}. Hàm của bạn nên:

  • json.loads văn bản thành một đối tượng Python.
  • Xác nhận nó là một dict -> một mảng JSON hay một con số trơn không phải là bản ghi bạn yêu cầu.
  • Với mọi trường trong schema: kiểm tra nó có mặt (báo lỗi khi thiếu trường) và có đúng kiểu (báo lỗi khi không khớp).
  • Trả về một dict có kiểu chỉ gồm các trường đó.

Cái bẫy bool-là-int. Trong Python, bool là một lớp con của int, nên isinstance(True, int) là True. JSON true được giải mã thành True của Python. Nếu schema của bạn muốn một int cho age và mô hình gửi "age": true, một phép kiểm tra isinstance ngây thơ sẽ cho nó qua. Hãy phòng nó: khi kiểu mong đợi là int, từ chối tường minh một giá trị bool.

if expected is int and isinstance(value, bool):
    raise ValueError("age must be int, got bool")

Báo một ngoại lệ rõ ràng (một ValueError có thông điệp nêu tên trường sai) để nơi gọi có thể ghi log chính xác mô hình đã sai ở đâu. Xây nó sao cho hai payload hợp lệ khác nhau đều qua, và một trường bị thiếu, một kiểu sai, và một bool lén lút mỗi cái đều báo lỗi.

Đến lượt bạn

Viết parse_and_validate(text, schema) trong đó schema là một dict {field: type}. json.loads văn bản, xác nhận nó là một dict, rồi với mỗi trường trong schema kiểm tra nó có mặt và đúng kiểu, trả về dict có kiểu. Trường bị thiếu và kiểu sai phải báo lỗi. Từ chối một JSON true ở chỗ cần một int (cái bẫy bool-là-int).

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.