Baca outputnya, bukan nadanya
Kenapa ini penting Jawaban asisten adalah kumpulan klaim: paket ini ada, diff ini hanya memperbaiki bug, kode ini menangani edge case, perintah ini aman. Setiap klaim bisa diperiksa, dan sebagian besar pemeriksaan itu murah.
Modul sebelumnya membuktikan saran itu salah dengan tes yang gagal. Modul ini melangkah lebih jauh: ia memeriksa bagian jawaban yang dilewati orang karena terlihat seperti plumbing.
- Names: paket, fungsi, dan flag. Dalam studi besar tentang model pembuat kode, rata-rata setidaknya 5.2% paket yang direkomendasikan model komersial, dan 21.7% dari model terbuka, tidak ada, dengan lebih dari 200,000 nama buatan yang berbeda (Spracklen et al., USENIX Security 2025). Penyerang bisa mendaftarkan nama buatan dan menunggu.
- Scope: diff yang memperbaiki bug dan diam-diam mengubah tiga fungsi lainnya.
- Choices: permintaan yang tidak jelas membuat asisten memutuskan hal yang tidak pernah kamu katakan, seperti huruf besar, urutan atau nilai kosong.
- Agreement: bertanya dua kali dan mendapat jawaban yang sama dua kali tidak membuatnya benar.
- Actions: agen yang menjalankan perintah bisa keluar dari folder yang kamu maksud.
Slopsquatting: mendaftarkan paket dengan nama yang cenderung dibuat oleh model, sehingga kode yang menginstalnya menjalankan kode penyerang.
Typosquatting: trik lama dengan mendaftarkan nama yang hanya beda satu huruf dari paket populer (requets), menunggu kesalahan pengetikan, oleh orang atau model.
Output asisten di modul ini ditulis untuk kursus ini dengan bentuk yang persis seperti yang dihasilkan asisten asli. Ini bukan rekaman dari model tertentu.
Ringkasan Bagi jawaban menjadi klaim dan cek yang murah setiap saat: nama, cakupan, pilihan, kesepakatan, tindakan.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.