Des réseaux plus profonds, et les entraînements enregistrés
Pourquoi c'est important Empiler plus de couches devrait aider, jusqu'à ce que soudain ça n'aide plus. Le cours a entraîné cette expérience sur sa propre machine pour que tu puisses voir les dix-huit entraînements en quelques secondes.
L'expérience enregistrée cnn-depth-shortcuts a entraîné des CNN de 2, 8 et 20 couches de convolution (16 canaux chacune) sur le jeu de données de formes, chacun avec et sans raccourcis (ajouter l'entrée d'un bloc à sa sortie, du module 6), et chacun avec trois graines. Tout le reste était identique : 2 000 images d'entraînement, 4 époques, Adam. Rejouer est instantané parce que rien ne s'entraîne ; tu lis ce qui s'est vraiment passé.
Trois graines, parce que le module 9 a raison : une seule exécution peut induire en erreur. Regarde la dispersion de chaque réglage, pas seulement sa moyenne.
Prédis d'abord la courbe : quel réglage finit avec la plus haute justesse de test moyenne, et le réseau simple de 20 couches apprend-il pour chaque graine ?
Entraînement enregistré : un vrai entraînement que le cours a fait une fois et fournit, pour que les leçons puissent étudier des entraînements trop gros ou trop nombreux pour être faits en direct sur chaque portable. Chaque affichage indique RECORDED.
Mots et symboles de cette leçon
- RECORDED
- un vrai entraînement que le cours a fait une fois et fournit pour que tu l'étudies
Affecte à my_best la paire (depth, shortcuts) qui, selon toi, finit la plus haute en moyenne, et à my_plain20_reliable True si tu penses que le réseau simple de 20 couches apprend pour les trois graines. Puis utilise nnsim.recorded pour remplir final_acc : de (depth, shortcuts) vers la liste des justesses de test finales des trois graines (graine 0 d'abord), affecte à mean_acc la moyenne de chaque liste, et à best la paire qui a la plus haute moyenne. exp.seeds(depth=..., shortcuts=...) donne les trois exécutions d'un réglage. Le hasard vaut 0.25 (quatre formes).
Enfin, utilise la règle du bruit du module 9 pour dire quels réglages diffèrent vraiment. Avec trois graines chacun, deux moyennes ne diffèrent vraiment que si l'écart dépasse environ 2 × s × sqrt(2/3), où s est la plus grande des dispersions sur les graines des deux réglages (np.std des trois valeurs). Tout ce qui est plus proche est une égalité.
Affecte à ties_with_best la liste de chaque paire à égalité avec best selon cette règle, best compris.
Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon
Cet exercice s'ouvre bientôt
Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.
Ce navigateur bloque les cookies pour learn.floati.life, donc les leçons que tu as terminées ici ne peuvent pas s'ouvrir dans l'ordre. Autorise les cookies pour ce site et recharge la page.