Đọc kết quả, không đọc giọng điệu
Vì sao điều này quan trọng Câu trả lời của một trợ lý là một bó các khẳng định: những gói này tồn tại, bản diff này chỉ sửa lỗi, mã này xử lý trường hợp biên, những lệnh này an toàn. Mỗi khẳng định đều kiểm tra được, và phần lớn phép kiểm tra đều rẻ.
Các mô-đun trước đã chứng minh lời khuyên sai bằng một bài kiểm tra thất bại. Mô-đun này đi rộng thêm một bước: nó kiểm tra những phần của một câu trả lời mà người ta bỏ qua vì chúng trông như phần đường ống.
- Tên: gói, hàm và cờ. Trong một nghiên cứu lớn về các mô hình sinh mã, trung bình ít nhất 5,2% số gói mà các mô hình thương mại đề xuất, và 21,7% số gói từ các mô hình mở, không tồn tại, với hơn 200.000 cái tên bịa ra khác nhau (Spracklen và cộng sự, USENIX Security 2025). Một kẻ tấn công có thể đăng ký một cái tên bịa ra và chờ đợi.
- Phạm vi: một bản diff sửa lỗi và lặng lẽ thay đổi ba hàm khác.
- Lựa chọn: một yêu cầu mơ hồ khiến trợ lý quyết định những điều bạn chưa bao giờ nói, như chữ hoa thường, thứ tự hay giá trị rỗng.
- Sự đồng thuận: hỏi hai lần và nhận cùng một câu trả lời hai lần không làm nó đúng.
- Hành động: một agent chạy lệnh có thể bước ra ngoài thư mục bạn định.
Slopsquatting: đăng ký một gói dưới một cái tên mà các mô hình hay bịa ra, để mã cài nó chạy mã của kẻ tấn công.
Typosquatting: mánh cũ hơn là đăng ký một cái tên chỉ cách một gói phổ biến một lỗi gõ (requets), chờ một lần gõ nhầm, của một người hay một mô hình.
Kết quả của trợ lý trong mô-đun này được viết cho khóa học theo đúng hình dạng mà các trợ lý thật tạo ra. Nó không phải là bản ghi của bất kỳ mô hình cụ thể nào.
Tóm tắt Tách một câu trả lời thành các khẳng định và luôn kiểm tra những cái rẻ: tên, phạm vi, lựa chọn, sự đồng thuận, hành động.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.