Lehrplan Lektion 92 von 148 · Die lügende Lektion
Die lügende Lektion

Selbstbewusst und falsch

Warum das wichtig istEin Sprachmodell schreibt eine falsche Antwort in derselben ruhigen, gut formatierten Stimme wie eine richtige. Der Ton sagt dir nichts. Ein Test, der fehlschlägt, sagt dir alles.

Fluency ist das, wofür diese Modelle trainiert werden, also kostet es sie nichts. Korrektheit ist eine separate Eigenschaft, und der Text zeigt nicht, welche du erhältst. Ratschläge, die wie etablierte Praxis klingen ("versuch es einfach nochmal", "dieses regex ist das Standard", "Name und Größe reichen"), sind am gefährlichsten, weil sie nicht zu einem zweiten Blick einladen.

In einer Stanford-Studie schrieben Personen, die sicherheitssensiblen Code mit einem KI-Assistenten schrieben, weniger sicheren Code als Personen ohne einen, und glaubten eher, dass ihr Code sicher war (Perry et al. 2023). Die gleiche Lücke zeigt sich bei der Geschwindigkeit: In einem Test aus dem Jahr 2025 brauchten erfahrene Open-Source-Entwickler, die KI-Tools nutzten, länger für ihre Aufgaben, während sie glaubten, sie seien schneller gewesen (METR 2025). Wie sicher du dir bei einer Antwort fühlst, ist kein Maß für sie.

Beweise es, argumentiere nicht

Wenn ein Rat falsch erscheint, ist die stärkste Antwort kein besseres Argument. Es ist ein kleiner Test, der beim empfohlenen Code fehlschlägt und bei einer korrekten Version besteht. Ein Argument kann entkräftet werden. Ein fehlschlagender Test beendet die Diskussion, und er bleibt in der Codebasis, damit der Fehler nicht zurückkehrt.

Counterexample: ein konkreter Input, bei dem die Behauptung falsch ist. Einer reicht aus, um "das funktioniert immer" zu widerlegen.

Wie dieses Modul funktioniert

Jede Lektion zeigt einen Teil von eingebettetem Rat mit Code. Der Rat wurde für den Kurs geschrieben und ist absichtlich falsch, auf Arten, wie echter Rat falsch ist. Du schreibst einen Test. Er läuft gegen den empfohlenen Code, mehrere nahe Verwandte davon und eine versteckte korrekte Version. Er muss die korrekte Version bestehen und genug der anderen erwischen.

Zusammenfassung Fluent ist nicht korrekt. Verwandle einen Zweifel in ein Gegenbeispiel und verwandle das Gegenbeispiel in einen Test.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.