Chương trình học Bài 137 trên tổng số 250 · Đầu ra có cấu trúc và gọi hàm/công cụ
Đầu ra có cấu trúc và gọi hàm/công cụ

Sửa JSON bị hỏng của mô hình

Các mô hình không phải là những cỗ máy phát JSON hoàn hảo. Ngay cả ở chế độ JSON, chúng vẫn bọc đầu ra trong các fence ```json, thêm một lời mở đầu nói nhiều ("Sure! Here is the data:"), để lại một dấu phẩy thừa ở cuối, hoặc dùng dấu nháy đơn. Một json.loads trơn sẽ báo lỗi với tất cả những thứ này, và trong môi trường thật đó là một yêu cầu thất bại. Một bước sửa chữa nhỏ khôi phục được phần lớn chúng một cách rẻ trước khi bạn bỏ cuộc và nhắc lại mô hình.

Hình dạng của một đường xử lý vững chắc trông như thế này:

text = call_model(prompt)        # may be fenced / prose-wrapped / sloppy
try:
    data = json.loads(text)
except ValueError:
    data = repair_json(text)     # one cheap repair attempt before re-prompting

Bạn đang xây repair_json(text). Cho nó đi qua các bước này, theo thứ tự, và dừng ngay khi json.loads thành công:

  • Bỏ một code fence. Nếu toàn bộ được bọc trong ``` (tùy chọn ```json), chỉ giữ phần bên trong. Một regex như ^```[a-zA-Z]*\s*(.*?)\s*```$ với re.DOTALL làm được việc này.
  • Cắt văn xuôi bao quanh. Tìm { hoặc [ đầu tiên và } hoặc ] cuối cùng tương ứng, và cắt ra đúng đoạn đó. Việc đó bỏ "Sure! Here is..." ở phía trước và mọi lời nói thừa phía sau.
  • Thử nguyên như vậy. Nhiều chuỗi giờ đã hợp lệ -> trả về sớm.
  • Sửa hỏng nhẹ nhất trước: bỏ các dấu phẩy thừa ở cuối bằng re.sub(r",(\s*[}\]])", r"\1", s), rồi json.loads lại.
  • Phương án cuối cùng: đổi dấu nháy đơn thành dấu nháy kép và thử một lần nữa.
  • Nếu vẫn không phân tích được, hãy báo một ValueError -> không bao giờ trả về rác. Một chuỗi không sửa được là một tín hiệu để nhắc lại, không phải để đoán.

Vì sao việc đổi dấu nháy đi sau cùng: nó cũng viết lại các dấu nháy đơn bên trong giá trị chuỗi, nên {"note": "it's fine",} sẽ hỏng nếu bạn đổi trước, trong khi chỉ bỏ dấu phẩy là sửa được nó. Đầu ra mô hình thường chứa dấu nháy đơn (tên như O'Brien, từ như it's), nên hãy thử các cách sửa không thể làm hỏng giá trị trước cách có thể. Ngay cả vậy, đây chỉ là tuyến phòng thủ đầu tiên; khi một câu trả lời thật không phân tích được, nhắc lại (hoặc structured outputs, vốn ràng buộc mô hình phải ra JSON hợp lệ) tốt hơn một cách sửa khéo hơn. Đảm bảo JSON sạch đi qua nguyên vẹn, true/false sống sót thành True/False của Python, và một chuỗi không có JSON nào khôi phục được thì báo lỗi.

Đến lượt bạn

Viết repair_json(text) bỏ một code fence ```/```json, cắt mọi văn xuôi trước {/[ đầu tiên và sau }/] cuối cùng tương ứng, rồi thử json.loads; khi thất bại nó bỏ các dấu phẩy thừa ở cuối và thử lại; chỉ khi vẫn thất bại nó mới đổi thêm dấu nháy đơn thành dấu nháy kép và thử một lần nữa (việc đổi dấu nháy đi sau cùng vì nó cũng viết lại các dấu nháy đơn bên trong giá trị); nếu vẫn không phân tích được thì báo một ValueError. JSON sạch phải đi qua không thay đổi.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.