Ablaciones: tres cambios, tres semillas cada uno
Por qué importa "Este cambio ayudó" es la afirmación más común de cualquier informe de proyecto, y la que más a menudo se hace a partir de una sola ejecución. Aquí lo decide la regla del Módulo 22, con tus ejecuciones.
Elige tres cambios a tu referencia base, cada uno cambiando exactamente un ajuste (width, lr, steps, batch o weight_decay). Ejecuta cada uno con las semillas 0, 1 y 2, y la referencia base otra vez con las mismas semillas (en el registro de esta lección, para que todos los números estén en un solo sitio). Usa evals=1: solo hace falta la puntuación final.
Para cada cambio: diff = la puntuación media del cambio menos la puntuación media de la referencia base (más alto es mejor), y se = judge.standard_error(baseline, change). Veredicto: "better" (mejor) si diff > 2 se, "worse" (peor) si diff < -2 se, y si no "not shown" (no mostrado).
El total tiene que caber en tu presupuesto: un cambio que cuesta más (más ancho, más pasos) gasta más.
Palabras y símbolos de esta lección
- referencia base
- la ejecución normal con la que se compara cada cambio, con las mismas semillas
- ablación
- un cambio a la referencia base, ejecutado con varias semillas, para ver qué hace
Pon CHANGES (tres, cada uno de un ajuste). Rellena log con las 12 ejecuciones y verdict[name] para cada cambio. Imprime las medias y 2 se.
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.