Programme Leçon 163 sur 246 · Module 14 : Clinique des entraînements II
Module 14 : Clinique des entraînements II

Diagnostiquer à partir du seul enregistrement

Pourquoi c'est important Souvent, tu ne peux rien réexécuter : l'entraînement était celui de quelqu'un d'autre, ou il a coûté une semaine. Tout ce que tu as, c'est ce qui a été noté. Deux expériences enregistrées de ce cours contiennent de vrais échecs.

Dans gpt-width-lr, un réglage est cassé par son taux d'apprentissage si sa perte finale sur données mises de côté, moyennée sur les trois graines enregistrées, est plus de 0.5 moins bonne que le meilleur réglage de la même largeur. Dans cnn-depth-shortcuts, une exécution est bloquée si sa justesse de test est exactement la même à chaque époque : elle répond une seule classe pour tout (il y a quatre classes de formes, donc environ 0.25).

Prédis avant de regarder : quelles exécutions du GPT sont cassées, et quel CNN est bloqué ?

À ton tour

Remplis broken avec des paires (width, lr) et stuck avec des triplets (depth, shortcuts, seed), calculés à partir des enregistrements. exp.seeds(d=..., lr=...) donne les trois exécutions d'un réglage.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.