Lies die Ausgabe, nicht den Ton.
Warum das wichtig ist Die Antwort eines Assistenten ist ein Bündel von Behauptungen: diese Pakete existieren, dieser diff fixiert nur den bug, dieser code behandelt den edge case, diese commands sind sicher. Jede Behauptung kann geprüft werden, und die meisten Prüfungen sind günstig.
Frühere Module haben den Rat mit einem fehlgeschlagenen Test widerlegt. Dieses Modul geht einen Schritt weiter: Es prüft die Teile einer Antwort, die Menschen überspringen, weil sie wie Klempnerarbeit aussehen.
- Names: Pakete, Funktionen und Flags. In einer großen Studie über code-generierende Modelle existierten durchschnittlich mindestens 5,2 % der Pakete, die kommerzielle Modelle empfahlen, und 21,7 % der Pakete aus Open-Modellen nicht. Dabei gab es über 200.000 verschiedene erfundene Namen (Spracklen et al., USENIX Security 2025). Ein Angreifer kann einen erfundenen Namen registrieren und warten.
- Scope: ein diff, das den bug behebt und leise drei andere functions ändert.
- Choices: eine vage Anfrage lässt den Assistenten Dinge entscheiden, die du nie gesagt hast, wie Großschreibung, Reihenfolge oder leere Werte.
- Agreement: zweimal zu fragen und zweimal die gleiche Antwort zu erhalten macht es nicht richtig.
- Actions: ein Agent, der Befehle ausführt, kann aus dem Ordner heraustreten, den du meintest.
Slopsquatting: Registrierung eines Pakets unter einem Namen, den Modelle dazu neigen, zu erfinden, sodass der Code, der es installiert, den Code des Angreifers ausführt.
Typosquatting: der ältere Trick, einen Namen nur einen Fehler von einem beliebten Paket (requets) zu registrieren, und auf einen Tippfehler durch eine Person oder ein Modell zu warten.
Der Assistenten-Output in diesem Modul wurde für den Kurs in der exakten Form geschrieben, die echte Assistenten erzeugen. Es ist keine Aufnahme eines bestimmten Modells.
Zusammenfassung Teile eine Antwort in Behauptungen auf und prüfe die günstigen jedes Mal: Namen, Umfang, Auswahlmöglichkeiten, Übereinstimmung, Aktionen.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.