Bị cắt cụt, bị từ chối, hay ngoài phạm vi
Vì sao điều này quan trọng Một bot hỗ trợ hiển thị cho người dùng nửa câu, hoặc một bong bóng trống, trông như bị hỏng. Trước khi hiển thị bất kỳ câu trả lời nào, hãy quyết định nó là loại câu trả lời gì.
Ứng dụng ở đây là một trợ lý ngân hàng có system prompt nói: chỉ trả lời câu hỏi về tài khoản và thẻ, và với mọi thứ khác hãy trả lời chính xác OUT_OF_SCOPE. Năm câu trả lời:
- một câu trả lời bình thường;
OUT_OF_SCOPEđúng như yêu cầu;- cùng tín hiệu đó nhưng viết lỏng lẻo (
Out_of_scope.kèm một dòng mới): các mô hình làm theo "trả lời chính xác" gần như luôn luôn, nên hãy khớp nó với một chút dung sai (bỏ qua chữ hoa thường, khoảng trắng và một dấu chấm ở cuối); - một câu trả lời bị cắt cụt ở giới hạn token;
- một lời từ chối:
stop_reasonlà"refusal", nội dung rỗng, và một dictstop_detailscó thể cho biết lý do.
Mỗi loại cần một màn hình khác nhau: hiển thị câu trả lời, hiển thị "Tôi chỉ có thể giúp về ngân hàng", yêu cầu mô hình tiếp tục hoặc thử lại với giới hạn cao hơn, hoặc hiển thị một lời từ chối lịch sự.
Về các câu trả lời này: chúng là mô phỏng. Mỗi câu được viết cho khóa học này đúng theo hình dạng mà Claude Messages API trả về (các khối nội dung, stop_reason, usage), và mỗi câu chép lại một điều mà các mô hình thật làm. Chúng không phải bản ghi của một mô hình đang chạy, nên câu chữ chính xác là của chúng tôi; hình dạng và các vấn đề là thật, chính là những thứ mã của bạn sẽ gặp.
Viết classify_reply(reply) trả về một trong "refused" (stop_reason là "refusal"), "cut_off" (stop_reason là "max_tokens"), "out_of_scope" (văn bản, sau khi bỏ khoảng trắng bao quanh và một dấu . ở cuối, bằng OUT_OF_SCOPE khi bỏ qua chữ hoa thường), "empty" (hoàn toàn không có văn bản), hoặc "answer". Kiểm tra chúng theo đúng thứ tự đó. Giữ nguyên REPLIES của mã khởi đầu: phần kiểm tra đọc nó.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.