Selfversekerd en verkeerd
Hoekom dit saak maak 'n taalmodel skryf 'n verkeerde antwoord in dieselfde kalm, mooi geformateerde stem as 'n regte een. Toon vertel jou niks nie. 'n Toets wat faal vertel jou alles.
Fluency is waarvoor hierdie modelle opgelei is, so dit kos hulle niks nie. Korrektheid is 'n aparte eienskap, en die teks wys nie watter een jy kry nie. Advies wat klink soos gevestigde praktyk ("probeer dit net weer", "hierdie regex is die standaard een", "naam en grootte is genoeg") is die gevaarlikste, want dit nooi nie 'n tweede kyk uit nie.
In 'n Stanford-studie het mense wat sekuriteitsgevoelige kode met 'n AI-assistent geskryf minder veilige kode geskryf as mense sonder een, en was meer geneig om te glo dat hulle kode veilig was (Perry et al. 2023). Dieselfde gaping verskyn vir spoed: in 'n 2025-proef het ervare open-source-ontwikkelaars wat AI-gereedskap gebruik langer oor hul take gesit terwyl hulle geglo het hulle was vinniger (METR 2025). Hoe selfversekerd jy oor 'n antwoord voel is nie 'n meting daarvan nie.
Bewees dit, moenie argumenteer nie
Wanneer advies vreemd voel, is die sterkste antwoord nie 'n beter argument nie. Dit is 'n klein test wat op die geadviseerde code faal en op 'n korrekte weergawe slaag. 'n Argument kan teenbewys word. 'n Faalende test beëindig die bespreking, en dit bly in die codebase sodat die fout nie kan terugkeer nie.
Counterexample: een konkrete inset waar die bewering vals is. Een is genoeg om "dit werk altyd" te weerlê.
Hoe hierdie module werk
Elke les wys 'n stukkie foutiewe advies met kode. Die advies is vir die kursus geskryf en is doelbewus verkeerd, op maniere wat regte advies verkeerd is. Jy skryf 'n toets. Dit loop teen die voorgestelde kode, verskeie naverwante van dit, en 'n wegstekkende korrekte weergawe. Dit moet die korrekte een slaag en genoeg van die ander vangee.
Opsomming Fluent is nie korrek nie. Verander 'n twyfel in 'n teenvoorbeeld, en verander die teenvoorbeeld in 'n toets.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.