Programma Les 218 van 246 · Module 21: In een model kijken
Module 21: In een model kijken

Drie soorten bewijs

Waarom dit ertoe doet "Het model heeft een neuron voor X" is een van de meest herhaalde zinnen in machine learning, en meestal is het bewijs erachter een plaatje. Deze module gaat over het verschil tussen een plaatje en een bewijs.

Elke bewering over wat er binnen een netwerk gebeurt, rust op een van drie soorten bewijzen, van zwak naar sterk:

  • Pattern: iets binnenin komt overeen met iets buitenin. Een eenheid is groot wanneer de tekst over katten gaat; een hoofd let op het vorige woord. Je keek, je raakte het niet aan.
  • Effect: je hebt iets binnenin veranderd en de output veranderde. Verwijder de head en de loss stijgt; zet een waarde van een andere input terug en het antwoord keert om. Nu weet je dat het ertoe doet, maar niet precies wat het doet.
  • Mechanism: een uitleg van wat het deel berekent dat voorspelt wat er zal gebeuren op inputs die je nog niet hebt geprobeerd, en de voorspelling klopt.

Patronen zijn goedkoop en daar begint elke onderzoek. Ze worden claims pas na een effect, en een verklaring pas na een voorspelling die had kunnen mislukken.

Woorden en symbolen in deze les
patroon, effect, mechanisme
drie soorten bewijs: gekeken en gezien; het veranderd en de output veranderde; het uitgelegd en de uitleg voorspelde nieuwe gevallen
Jij bent aan de beurt

Vul kind: voor elke claim, "patroon", "effect" of "mechanisme" (het sterkste soort dat de bewijsvoering ondersteunt).

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.