Müfredat 148 dersinden 97. · Çıktıyı değerlendir
Çıktıyı değerlendir

Tonu değil, çıktıyı oku

Neden önemli Bir asistanın cevabı bir dizi iddiadır: bu paketler mevcut, bu diff sadece hatayı düzeltiyor, bu kod uç durumu yönetiyor, bu komutlar güvenli. Her iddia kontrol edilebilir ve çoğu kontrol ucuzdur.

Önceki modüller, başarısız bir testle tavsiyenin yanlış olduğunu kanıtladı. Bu modül bir adım daha ileri gidiyor: insanlar tesisat gibi göründüğü için atladıkları cevap kısımlarını kontrol ediyor.

  • Names: paketler, fonksiyonlar ve bayraklar. Kod üreten modeller üzerine yapılan büyük bir çalışmada, ticari modellerin önerdiği paketlerin ortalama en az %5.2'si ve açık kaynaklı modellerden gelenlerin %21.7'si mevcut değildi. Bunlar arasında 200.000'den fazla farklı uydurma isim vardı (Spracklen et al., USENIX Security 2025). Bir saldırgan uydurma bir isim kaydedebilir ve bekleyebilir.
  • Scope: hatayı düzelten ve diğer üç fonksiyonu sessizce değiştiren bir diff.
  • Choices: belirsiz bir istek, asistanın senin hiç söylemediğin şeylere, örneğin büyük-küçük harf, sıralama veya boş değerlere karar vermesine neden olur.
  • Agreement: iki kez sorup iki kez aynı cevabı almak onu doğru yapmaz.
  • Actions: komut çalıştıran bir ajan, hedeflediğin klasörün dışına çıkabilir.

Slopsquatting: modellerin genellikle uydurduğu bir isim altında paket kaydetmek, böylece onu kuran kod saldırganın kodunu çalıştırır.

Typosquatting: popüler bir pakete (requets) çok yakın bir isim kaydedip, bir kişi veya modelin yazım hatası yapmasını bekleme şeklindeki eski numara.

Bu modüldeki asistan çıktısı, gerçek asistanlerin ürettiği tam formatta kurs için yazıldı. Herhangi bir modelin kaydı değildir.

Özet Bir cevabı iddialara ayır ve ucuz olanları her seferinde kontrol et: isimler, kapsam, seçimler, anlaşma, eylemler.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.