Sicuro e sbagliato
Perché è importante Un modello linguistico scrive una risposta sbagliata con la stessa voce calma e ben formattata di una giusta. Il tono non ti dice niente. Un test che fallisce ti dice tutto.
La scorrevolezza è ciò per cui questi modelli sono addestrati, quindi non costa loro niente. La correttezza è una proprietà separata, e il testo non mostra quale delle due stai ricevendo. Il consiglio che suona come pratica consolidata ("basta riprovare", "questa regex è quella standard", "nome e dimensione bastano") è il più pericoloso, perché non invita a guardare una seconda volta.
In uno studio di Stanford, le persone che scrivevano codice delicato per la sicurezza con un assistente IA hanno scritto codice meno sicuro di quelle senza, ed erano più propense a credere che il loro codice fosse sicuro (Perry et al. 2023). Lo stesso scarto compare per la velocità: in una prova del 2025, sviluppatori open source esperti che usavano strumenti di IA hanno impiegato più tempo sui loro compiti credendo di essere stati più veloci (METR 2025). Quanto ti senti sicuro di una risposta non è una sua misura.
Provalo, non discuterlo
Quando un consiglio non ti convince, la risposta più forte non è un argomento migliore. È un piccolo test che fallisce sul codice consigliato e passa su una versione corretta. A un argomento si può ribattere. Un test che fallisce chiude la discussione, e resta nella codebase così l'errore non può tornare.
Controesempio: un input concreto per cui l'affermazione è falsa. Ne basta uno per affondare "funziona sempre".
Come funziona questo modulo
Ogni lezione mostra un consiglio piazzato con del codice. Il consiglio è stato scritto per il corso ed è sbagliato di proposito, nei modi in cui sono sbagliati i consigli veri. Tu scrivi un test. Viene eseguito sul codice consigliato, su diversi suoi parenti stretti, e su una versione corretta nascosta. Deve far passare quella corretta e cogliere abbastanza delle altre.
Riepilogo Scorrevole non vuol dire corretto. Trasforma un dubbio in un controesempio, e il controesempio in un test.
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.