Programma Lezione 140 di 246 · Modulo 12: Parole come numeri (embedding)
Modulo 12: Parole come numeri (embedding)

Cancello: vettori di parole per un mondo nuovo (IA spenta)

Perché è importante Costruire vettori di parole da frasi grezze, controllare che cosa hanno imparato, e togliere una distorsione che hanno copiato, da solo, è questo modulo in un compito.

Tutor IA spento. Il controllo dà alle tue funzioni un mondo che non hai visto: frasi nuove da un altro seme, con nurse ed engineer distorti verso she e he. Niente di quel mondo è nel tuo namespace.

Parole e simboli di questa lezione
finestra
quante parole da ogni lato contano come compagnia di una parola
PPMI
quanto più spesso due parole si incontrano rispetto al caso, con i negativi messi a 0
distorsione
uno schema sbilanciato nei dati che i vettori copiano
Tocca a te

Scrivi word_vectors(sents, vocab): conta le co-occorrenze dentro ogni frase con la finestra WINDOW che scegli, e restituisci ppmi(counts), una riga per parola di vocab. Scrivi debias(X, vocab): restituisci una copia di X in cui ai quattro lavori (nurse, engineer, doctor, teacher) è stata tolta la direzione del genere (vettori unitari, quattro coppie, come nell'ultima lezione), ogni altra riga invariata. Il controllo valuta le 72 analogie sul suo mondo (almeno il 95% giuste) e poi misura la posizione di ogni lavoro sulla direzione del genere dopo il tuo debias (tutte entro 0.05 da zero).

IA spenta: niente tutor, suggerimenti o soluzione svolta per questo. Solo il tuo ragionamento.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.