Lees de output, niet de toon
Waarom dit ertoe doet Het antwoord van een assistent is een bundel van claims: deze pakketten bestaan, deze diff fixt alleen de bug, deze code handelt de edge case af, deze commando's zijn veilig. Elke claim kan worden gecontroleerd, en de meeste controles zijn goedkoop.
Eerdere modules bewezen advies onjuist met een mislukte test. Dit module gaat een stap verder: het controleert de delen van een antwoord die mensen overslaan omdat ze op loodgiing lijken.
- Names: packages, functions en flags. In een grote studie naar code-genererende modellen bestonden gemiddeld ten minste 5.2% van de packages die commerciële modellen aanraadden niet. Bij open modellen was dit 21.7%. Er waren meer dan 200.000 verschillende verzonnen namen (Spracklen et al., USENIX Security 2025). Een aanvaller kan een verzonnen naam registreren en wachten.
- Scope: een diff die de bug fixt en stilletjes drie andere functies verandert.
- Keuzes: een vage aanvraag zorgt ervoor dat de assistent dingen beslist die je nooit hebt gezegd, zoals hoofdletters, volgorde of lege waarden.
- Overeenkomst: twee keer vragen en twee keer hetzelfde antwoord krijgen maakt het niet juist.
- Acties: een agent die commando's uitvoert kan buiten de map die je bedoelde stappen.
Slopsquatting: het registreren van een pakket onder een naam die modellen neigen te verzinnen, zodat code die het installeert de code van de aanvaller uitvoert.
Typosquatting: de oudere truc om een naam te registreren die één typefout verwijderd is van een populair pakket (requets), wachten op een typefout door een persoon of een model.
De output van de assistent in deze module is geschreven voor de cursus in de exacte vorm die echte assistenten produceren. Het is geen opname van een specifiek model.
Samenvatting Splits een antwoord in claims en controleer de goedkope elk keer: namen, bereik, keuzes, overeenstemming, acties.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.