Silabus Pelajaran 92 dari 148 · Pelajaran yang bohong
Pelajaran yang bohong

Yakin tapi salah

Kenapa ini penting Model bahasa menulis jawaban salah dengan nada yang tenang dan format yang rapi sama seperti jawaban yang benar. Nada tidak memberitahumu apa pun. Tes yang gagal memberitahumu segalanya.

Fluency adalah apa yang dilatihkan pada model ini, jadi tidak ada biaya bagi mereka. Keakuratan adalah properti terpisah, dan teks tidak menunjukkan mana yang kamu dapatkan. Saran yang terdengar seperti praktik umum ("coba lagi saja", "regex ini adalah yang standar", "nama dan ukuran sudah cukup") adalah yang paling berbahaya, karena tidak mengajak untuk melihat kembali.

Dalam sebuah studi di Stanford, orang yang menulis kode sensitif keamanan dengan asisten AI menulis kode yang kurang aman dibandingkan orang tanpa asisten, dan lebih cenderung percaya bahwa kode mereka aman (Perry et al. 2023). Kesenjangan yang sama muncul pada kecepatan: dalam uji coba tahun 2025, pengembang open-source berpengalaman yang menggunakan alat AI membutuhkan waktu lebih lama untuk tugas mereka sambil percaya bahwa mereka lebih cepat (METR 2025). Seberapa percaya diri kamu terhadap sebuah jawaban bukanlah ukuran dari jawaban itu sendiri.

Buktikan, jangan didebat

Kalau saran terasa tidak pas, balasan terkuat bukanlah argumen yang lebih baik. Itu adalah tes kecil yang gagal pada kode yang disarankan dan berhasil pada versi yang benar. Argumen bisa didebat balik. Tes yang gagal mengakhiri diskusi, dan itu tetap ada di codebase supaya kesalahan tidak bisa kembali.

Counterexample: satu input konkret di mana klaimnya salah. Satu saja cukup untuk mematahkan "ini selalu berhasil".

Cara kerja modul ini

Setiap pelajaran menampilkan saran yang sengaja dibuat salah beserta kodenya. Saran tersebut ditulis untuk kursus ini dan sengaja salah dengan cara yang sama seperti saran nyata yang salah. Kamu menulis sebuah test. Test itu dijalankan terhadap kode yang disarankan, beberapa kode yang mirip, dan versi benar yang tersembunyi. Test harus lulus pada versi benar dan menangkap cukup banyak kode lainnya.

Ringkasan Fluent itu tidak benar. Ubah keraguan jadi contoh penyangkal, dan ubah contoh penyangkal jadi tes.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.