Chương trình học Bài 134 trên tổng số 250 · Kỹ thuật prompt cho kỹ sư AI
Kỹ thuật prompt cho kỹ sư AI

Dự án cuối: Một đường ống prompt vận hành (phân loại phiếu hỗ trợ)

Đây là phần kết: bạn nối toàn bộ mô-đun vào một đường ống prompt vận hành để phân loại phiếu hỗ trợ. Một phiếu thô đi vào; bạn phải phòng chống chèn, tôn trọng một ngân sách token, ráp một prompt few-shot, rồi kiểm tra bất cứ JSON nào mô hình trả về. Mô hình phân loại phiếu (bước đó là LLM, và là phần duy nhất không được chấm). Mọi thứ quanh nó là phần kỹ thuật bạn làm chủ.

Xây bộ ráp prompt. build_triage_prompt(ticket, budget=200):

  • Cho phiếu chạy qua bộ phát hiện chèn. Nếu đáng ngờ, thân phiếu trở thành [blocked input] và payload thô không bao giờ vào prompt.
  • Nếu không thì cắt phiếu còn budget ký tự (phiếu có thể rất lớn; bạn trả tiền theo token).
  • Ráp một chỉ dẫn [system], rồi hai ví dụ few-shot Ticket: ... / JSON: ..., rồi phiếu thật đã rào, kết thúc bằng một dòng [assistant] ở cuối.

Xây bộ kiểm tra đầu ra. parse_triage(model_json) json.loads câu trả lời của mô hình bên trong một try/except và kiểm tra hai kiểu liệt kê: category trong {billing, technical, account, general} và urgency trong {low, medium, high}. Trả về {"ok": bool, "errors": [...]}.

parse_triage('{"category": "billing", "urgency": "high"}')   # ok True
parse_triage('{"category": "weather", "urgency": "high"}')   # ok False
parse_triage('not json at all')                              # ok False, no crash

Nếu gia sư của bạn đang bật, một mô hình trên thiết bị có thể tạo ra JSON mà parse_triage sau đó kiểm tra, khép vòng lặp ngay lập tức. Nhưng việc chấm điểm chỉ đụng tới các phần tất định: prompt có đúng cấu trúc, chặn chèn, cắt các phiếu quá cỡ, và bộ kiểm tra chấp nhận đầu ra tốt trong khi từ chối đầu ra xấu. Dùng lại is_suspicious và wrap_user_input từ bài về chèn, đã có sẵn trong mã khởi đầu. Nhấn Chạy để chấm điểm.

Đến lượt bạn

Viết build_triage_prompt(ticket, budget=200): phát hiện chèn (đáng ngờ -> thân phiếu trở thành [blocked input], payload vắng mặt), nếu không thì cắt còn budget ký tự; ráp một dòng [system], hai ví dụ few-shot Ticket:/JSON:, phiếu thật đã rào, và một [assistant] ở cuối. Phiếu thật nằm trên một dòng riêng bắt đầu bằng Ticket: , giống các ví dụ, với thân được rào bằng wrap_user_input (từ bài về chèn). Viết parse_triage(model_json) json.loads trong một try/except và kiểm tra category thuộc {billing,technical,account,general} và urgency thuộc {low,medium,high}, trả về {"ok", "errors"}.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.