Kurrikulum Leson 162 van 246 · Module 14: Lopie-kliniek II
Module 14: Lopie-kliniek II

Kliniek: 'n goeie model wat sleg skryf

Waarom dit saak maak 'n Getoëe model kan steeds rommel produseer as die kode rondom dit verkeerd is. Hierdie foute is in die sampling code, nie die weights nie, en mense doen dae lank oor train voordat hulle daar kyk.

Elke geval hieronder gebruik dieselfde aangegifde width-64 model, wat redelike teks by temperature 0.8 skryf. Elke geval het een fout in hoe teks gesampleer of gedekodeer word:

  • too_cold: temperatuur naby 0. Die model neem altyd sy gunsteling volgende karakter en val in 'n lus.
  • too_hot: temperatuur ver bo 1. Die verspreiding word plat tot seldsame simbole so gereeld as letters verskyn.
  • shifted_decode: die ids word terugverander na karakters met die alfabet een verskuif, so 'n goeie voorbeeld lees soos 'n kode: elke spasie word "!".

Probes: sample(c) wys die teks; repeat_share(text) en space_share(text) meet dit.

Jou beurt

Vul diagnosis en fixes vir gevalle A, B en C. Na jou regstelling moet elke instelling ooreenstem met die gesonde een, en die voorbeeld moet weer soos teks lees.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.