Dự án cuối: Một đường ống prompt vận hành (phân loại phiếu hỗ trợ)
Đây là phần kết: bạn nối toàn bộ mô-đun vào một đường ống prompt vận hành để phân loại phiếu hỗ trợ. Một phiếu thô đi vào; bạn phải phòng chống chèn, tôn trọng một ngân sách token, ráp một prompt few-shot, rồi kiểm tra bất cứ JSON nào mô hình trả về. Mô hình phân loại phiếu (bước đó là LLM, và là phần duy nhất không được chấm). Mọi thứ quanh nó là phần kỹ thuật bạn làm chủ.
Xây bộ ráp prompt. build_triage_prompt(ticket, budget=200):
- Cho phiếu chạy qua bộ phát hiện chèn. Nếu đáng ngờ, thân phiếu trở thành
[blocked input]và payload thô không bao giờ vào prompt. - Nếu không thì cắt phiếu còn
budgetký tự (phiếu có thể rất lớn; bạn trả tiền theo token). - Ráp một chỉ dẫn
[system], rồi hai ví dụ few-shotTicket: ... / JSON: ..., rồi phiếu thật đã rào, kết thúc bằng một dòng[assistant]ở cuối.
Xây bộ kiểm tra đầu ra. parse_triage(model_json) json.loads câu trả lời của mô hình bên trong một try/except và kiểm tra hai kiểu liệt kê: category trong {billing, technical, account, general} và urgency trong {low, medium, high}. Trả về {"ok": bool, "errors": [...]}.
parse_triage('{"category": "billing", "urgency": "high"}') # ok True
parse_triage('{"category": "weather", "urgency": "high"}') # ok False
parse_triage('not json at all') # ok False, no crashNếu gia sư của bạn đang bật, một mô hình trên thiết bị có thể tạo ra JSON mà parse_triage sau đó kiểm tra, khép vòng lặp ngay lập tức. Nhưng việc chấm điểm chỉ đụng tới các phần tất định: prompt có đúng cấu trúc, chặn chèn, cắt các phiếu quá cỡ, và bộ kiểm tra chấp nhận đầu ra tốt trong khi từ chối đầu ra xấu. Dùng lại is_suspicious và wrap_user_input từ bài về chèn, đã có sẵn trong mã khởi đầu. Nhấn Chạy để chấm điểm.
Viết build_triage_prompt(ticket, budget=200): phát hiện chèn (đáng ngờ -> thân phiếu trở thành [blocked input], payload vắng mặt), nếu không thì cắt còn budget ký tự; ráp một dòng [system], hai ví dụ few-shot Ticket:/JSON:, phiếu thật đã rào, và một [assistant] ở cuối. Phiếu thật nằm trên một dòng riêng bắt đầu bằng Ticket: , giống các ví dụ, với thân được rào bằng wrap_user_input (từ bài về chèn). Viết parse_triage(model_json) json.loads trong một try/except và kiểm tra category thuộc {billing,technical,account,general} và urgency thuộc {low,medium,high}, trả về {"ok", "errors"}.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.