Una media mejor, la misma habilidad
Por qué importa "Nuestro modelo tiene menos pérdida" es la afirmación más común en el modelado del lenguaje. La pérdida es una media sobre todas las predicciones, y una media puede mejorar sin que mejore en absoluto la parte que te importa.
El curso grabó dos GPT entrenados igual, de anchura 32 y 64. El más ancho tiene la menor pérdida en datos reservados. Pero no todas las predicciones son iguales: terminar una palabra que ya has empezado ("gradi" y luego "e") es fácil; elegir la primera letra de la palabra siguiente es elegir qué decir a continuación, y es difícil.
judge.per_position(model, X, Y) da la pérdida de cada predicción. Haz la media sobre todas las posiciones, sobre las primeras letras de las palabras, y sobre el resto de cada palabra.
Predice primero: ¿el modelo más ancho mejora al elegir la palabra siguiente?
Palabras y símbolos de esta lección
- semilla
- el número que fija las elecciones aleatorias de una ejecución; otra semilla da otro resultado
Pon en my_guess "yes" (sí) o "no". Rellena loss[width] con un dict de 'all', 'first letter' e 'inside word' para las anchuras 32 y 64. Pon en gain_from el tipo de posición ("first letter" o "inside word") de donde sale la mejora del modelo más ancho.
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.