Chuỗi suy luận và phân tích câu trả lời cuối cùng
Với bất cứ thứ gì cần suy luận (toán, logic nhiều bước, phân loại cẩn thận), yêu cầu mô hình suy nghĩ từng bước trước khi trả lời giúp tăng độ chính xác đo được. Cái vướng: giờ mô hình phát ra một bức tường suy luận, và bạn vẫn cần một câu trả lời sạch, máy đọc được ở đầu ra.
Mẹo chuẩn là bắt mô hình kết thúc bằng một dòng cố định bạn phân tích được, như Answer: 42. Bạn xây prompt yêu cầu hình dạng đó, và bạn viết bộ phân tích trích nó ra. Mô hình làm phần suy luận ở giữa (không được chấm), nhưng hợp đồng ở cả hai đầu là của bạn.
Một câu trả lời chuỗi suy luận trông như:
There are 3 boxes with 4 apples each.
3 times 4 is 12.
Answer: 12Xây hai hàm:
cot_prompt(question)trả về một chuỗi prompt chứa câu hỏi, yêu cầu mô hình suy luận từng bước, và chỉ dẫn nó kết thúc bằng một dòng đúng dạngAnswer: <value>.parse_final_answer(model_output)quét đầu ra và trả về giá trị sau dòngAnswer:CUỐI CÙNG (không phân biệt hoa thường, đã cắt khoảng trắng). Nếu không có dòng như vậy, trả vềNone.
Một ghi chú năm 2026: chỉ dẫn tường minh "think step by step" được thiết kế cho các mô hình cũ, không có khả năng suy nghĩ. Các mô hình suy nghĩ/suy luận hiện đại đã làm việc này bên trong, nên gắn thêm một chuỗi suy luận tự chế có thể thừa hoặc thậm chí làm giảm chất lượng. Hãy dùng CoT tường minh chủ yếu với các mô hình nhỏ hơn hoặc không có khả năng suy nghĩ, hoặc khi bạn thật sự cần các bước hiện ra để phân tích hay kiểm tra lại.
Hai chi tiết đáng giá. Dòng cuối thắng: một mô hình thường tự sửa ("Answer: 3 ... wait, Answer: 5"), và dòng cuối cùng mới là câu trả lời thật, nên hãy quét tới đáy. None khi vắng mặt: nếu mô hình không bao giờ tạo ra dòng đó, hãy nói thật như vậy thay vì đoán, để nơi gọi có thể thử lại. Nhấn Chạy để chấm điểm.
Viết cot_prompt(question) trả về một prompt chứa câu hỏi, cụm từ step by step, và một chỉ dẫn Answer:. Viết parse_final_answer(model_output) trả về văn bản đã cắt khoảng trắng sau dòng CUỐI CÙNG khớp Answer: (không phân biệt hoa thường), hoặc None nếu không có dòng như vậy.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.