Kurrikulum Leson 137 van 246 · Module 12: Woorde as nommers (embeddings)
Module 12: Woorde as nommers (embeddings)

Betekenis wat 'n woord van die maatskappy behou

Waarom dit saak maak "Jy sal 'n woord ken deur die geselskap wat dit hou." Tel watter woorde naby watter woorde verskyn. Die tellings alleen plaas king naby queen en laat jou berekeninge doen soos king minus man plus woman.

Om hierdie eerlik te toets moet ons die regte antwoorde ken, so hierdie les gebruik 'n verdensinne wêreldjie met 'n geplant struktuur: elke persoon is koninklik of gewone, hy of sy, volwasse of jonk, en elk daarvan verskyn as ander woorde in dieselfde sin ("die koningin regeer in die paleis en sy lees"). Regte teks is baie meer deurmekaar, maar die meganisme is dieselfde.

Van tellings tot vektore

Tel, vir elke paar woorde, hoe gereeld hulle binne 'n window van w woorde van mekaar verskyn. Elke woord se ry van tellings is sy vektor. 'n Hulpfunksie verander rou tellings na "hoeveel meer gereeld as kans" (PPMI), sodat "the" nie alles oorheers nie.

'n analogie a : b = c : ? word beantwoord deur die woord naaste aan b minus a plus c. Daar is 72 sulke vrae in hierdie wêreld.

Voorspel: met 'n venster van 2 woorde, en met 'n venster wat die hele 9-woord sin dek, watter deel sal reg wees?

Woorde en simbole in hierdie les
venster
hoeveel woorde aan weerskant tel as 'n woord se geselskap
PPMI
hoeveel meer gereeld ontmoet twee woorde as wat kans sou gee, met negatiewes gestel op 0
Jou beurt

Stel my_guess in op jou twee voorspellings. Skryf cooccurrence(sents, win): 'n V by V-array van tellings, voeg 1 by aan [word, other] vir elke ander woord binne win posisies in dieselfde sin. Vul dan acc vir vensters 2 en 8 met score(ppmi(...)).

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.