Chương trình học Bài 92 trên tổng số 148 · Bài học nói dối
Bài học nói dối

Tự tin và sai

Vì sao điều này quan trọng Một mô hình ngôn ngữ viết một câu trả lời sai bằng cùng giọng điềm tĩnh, trình bày gọn gàng như một câu trả lời đúng. Giọng điệu không cho bạn biết gì cả. Một bài kiểm tra thất bại cho bạn biết tất cả.

Sự trôi chảy là thứ các mô hình này được huấn luyện để có, nên nó chẳng tốn gì của chúng. Sự đúng đắn là một thuộc tính riêng, và văn bản không cho thấy bạn đang nhận được cái nào. Lời khuyên nghe như một thực hành đã được công nhận ("cứ thử lại", "regex này là cái chuẩn", "tên và kích thước là đủ") là nguy hiểm nhất, vì nó không mời bạn nhìn lại lần thứ hai.

Trong một nghiên cứu ở Stanford, những người viết mã nhạy cảm về bảo mật với một trợ lý AI đã viết mã kém an toàn hơn những người không có, và có nhiều khả năng tin rằng mã của họ an toàn hơn (Perry và cộng sự 2023). Khoảng cách tương tự xuất hiện với tốc độ: trong một thử nghiệm năm 2025, các lập trình viên mã nguồn mở giàu kinh nghiệm dùng công cụ AI mất nhiều thời gian hơn cho nhiệm vụ của họ trong khi tin rằng mình đã nhanh hơn (METR 2025). Bạn cảm thấy tự tin ra sao về một câu trả lời không phải là một phép đo của nó.

Chứng minh nó, đừng tranh cãi về nó

Khi lời khuyên có vẻ không ổn, câu đáp mạnh nhất không phải là một lập luận tốt hơn. Đó là một bài kiểm tra nhỏ thất bại trên mã được khuyên và qua trên một phiên bản đúng. Một lập luận có thể bị phản bác. Một bài kiểm tra thất bại chấm dứt cuộc thảo luận, và nó ở lại trong kho mã để lỗi không thể quay lại.

Phản ví dụ: một đầu vào cụ thể mà ở đó khẳng định là sai. Một cái là đủ để đánh chìm câu "cái này luôn hoạt động".

Mô-đun này hoạt động ra sao

Mỗi bài học cho thấy một lời khuyên cài sẵn kèm mã. Lời khuyên được viết cho khóa học và sai một cách cố ý, theo những cách mà lời khuyên thật hay sai. Bạn viết một bài kiểm tra. Nó chạy với mã được khuyên, vài biến thể gần giống, và một phiên bản đúng được giấu đi. Nó phải cho phiên bản đúng qua và bắt được đủ số còn lại.

Tóm tắt Trôi chảy không phải là đúng. Biến một nghi ngờ thành một phản ví dụ, và biến phản ví dụ thành một bài kiểm tra.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.