Chương trình học Bài 247 trên tổng số 250 · Làm việc với câu trả lời của mô hình
Làm việc với câu trả lời của mô hình

Bị cắt cụt, bị từ chối, hay ngoài phạm vi

Vì sao điều này quan trọng Một bot hỗ trợ hiển thị cho người dùng nửa câu, hoặc một bong bóng trống, trông như bị hỏng. Trước khi hiển thị bất kỳ câu trả lời nào, hãy quyết định nó là loại câu trả lời gì.

Ứng dụng ở đây là một trợ lý ngân hàng có system prompt nói: chỉ trả lời câu hỏi về tài khoản và thẻ, và với mọi thứ khác hãy trả lời chính xác OUT_OF_SCOPE. Năm câu trả lời:

  • một câu trả lời bình thường;
  • OUT_OF_SCOPE đúng như yêu cầu;
  • cùng tín hiệu đó nhưng viết lỏng lẻo (Out_of_scope. kèm một dòng mới): các mô hình làm theo "trả lời chính xác" gần như luôn luôn, nên hãy khớp nó với một chút dung sai (bỏ qua chữ hoa thường, khoảng trắng và một dấu chấm ở cuối);
  • một câu trả lời bị cắt cụt ở giới hạn token;
  • một lời từ chối: stop_reason là "refusal", nội dung rỗng, và một dict stop_details có thể cho biết lý do.

Mỗi loại cần một màn hình khác nhau: hiển thị câu trả lời, hiển thị "Tôi chỉ có thể giúp về ngân hàng", yêu cầu mô hình tiếp tục hoặc thử lại với giới hạn cao hơn, hoặc hiển thị một lời từ chối lịch sự.

Về các câu trả lời này: chúng là mô phỏng. Mỗi câu được viết cho khóa học này đúng theo hình dạng mà Claude Messages API trả về (các khối nội dung, stop_reason, usage), và mỗi câu chép lại một điều mà các mô hình thật làm. Chúng không phải bản ghi của một mô hình đang chạy, nên câu chữ chính xác là của chúng tôi; hình dạng và các vấn đề là thật, chính là những thứ mã của bạn sẽ gặp.

Đến lượt bạn

Viết classify_reply(reply) trả về một trong "refused" (stop_reason là "refusal"), "cut_off" (stop_reason là "max_tokens"), "out_of_scope" (văn bản, sau khi bỏ khoảng trắng bao quanh và một dấu . ở cuối, bằng OUT_OF_SCOPE khi bỏ qua chữ hoa thường), "empty" (hoàn toàn không có văn bản), hoặc "answer". Kiểm tra chúng theo đúng thứ tự đó. Giữ nguyên REPLIES của mã khởi đầu: phần kiểm tra đọc nó.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.