Temario Lección 208 de 246 · Módulo 20: Adaptar barato un modelo entrenado
Módulo 20: Adaptar barato un modelo entrenado

Aprender lo nuevo, olvidar lo viejo

Por qué importa Todo modelo útil acaba adaptado: a los documentos de una empresa, a un estilo de programación, a un idioma. La forma obvia, seguir entrenando con los datos nuevos, tiene un coste que nadie ve hasta que es demasiado tarde: el modelo empeora en lo que ya sabía.

El GPT grabado del curso aprendió inglés con el texto de las lecciones del curso. Su nuevo trabajo: código Python, sacado de las soluciones resueltas del curso de Python. Antes de entrenar, puntúa 1.70 con inglés reservado y 3.25 con código reservado (apenas ha visto código).

Entrena todos los pesos con código durante 60 pasos de 8 ventanas (lo máximo que cabe en una lección en el navegador) y vuelve a medir las dos cosas. Mira primero la escena: las dos pérdidas, paso a paso, para este ajuste fino completo y para el método más barato que construirás en este módulo.

Predice primero: después de 60 pasos con código, ¿la pérdida en inglés se quedará más o menos igual, o subirá?

Tu turno

Pon en my_guess "same" (igual) o "rises" (sube). Rellena before y after con adapt.losses(model) (pérdida en inglés, pérdida en código) antes y después de adapt.train(model, code_train, steps=60, batch=8).

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.