Conteúdo do curso Lição 197 de 250 · O ML ao redor do LLM
O ML ao redor do LLM

Roteamento de Embedding para Protótipo

O classificador

A precisa de dados de treinamento rotulados. Às vezes você não tem nenhum -> você tem apenas um punhado de example consultas para cada intenção. O roteador mais barato então é o nearest-prototype: represente cada intenção por um vetor (seu "protótipo", geralmente a média do embedding de alguns exemplos), faça o embedding da consulta de entrada e direcione para qualquer protótipo que ela aponte mais diretamente.

"Points most directly at" significa cosine similarity: o cosseno do ângulo entre dois vetores, ignorando o comprimento deles. É a medida certa para texto porque um documento longo e um curto sobre o mesmo tópico ainda devem coincidir.

cosine(a, b) = (a . b) / (|a| |b|)
Um valor

perto de 1.0 significa que os vetores apontam para o mesmo lado (mesma intenção); perto de 0.0 significa não relacionados. O router escolhe o protótipo com o cosseno mais alto, e essa pontuação serve como uma confidence que você pode filtrar depois.

Enquadramento honesto: em produção esses vetores vêm de um modelo de embedding treinado (uma chamada de API, ou um sentence-transformer). Não podemos carregar um aqui -> não há arquivo de pesos do modelo e não há GPU no navegador. Então nesta lição os vetores são dados a você como arrays numpy puros. Você está construindo a geometria de roteamento, que é idêntica quer os números venham de um embedder real ou de um fixture. Embeddings reais apenas preenchem números melhores; a lógica de cosine-and-argmax é a parte que você entrega.

Ties devem ser determinísticos. Se dois protótipos estiverem exatamente à mesma distância, escolher "qualquer um que vier primeiro no dict" é um bug latente -> a ordem do dict pode mudar. Quebre empates escolhendo a intenção cujo nome venha primeiro em ordem alfabética, para que o mesmo empate sempre resolva da mesma forma.

Construa duas funções. cosine(a, b) retorna a similaridade de cosseno de dois vetores e é segura para zeros (um vetor de comprimento zero retorna 0.0, nunca um NaN). route_by_prototype(query_vec, prototypes) recebe o vetor de consulta e um dicionário {intent_name: prototype_vector} e retorna uma tupla (best_intent, best_score) -> o protótipo mais próximo e seu cosseno, com desempate alfabético. Pressione Run para rotear algumas consultas e ver a confiança com que cada uma retorna.

Sua vez

Escreva cosine(a, b) = a.b / (|a||b|), retornando 0.0 quando qualquer vetor tiver comprimento zero (sem NaN). Depois escreva route_by_prototype(query_vec, prototypes) onde prototypes é um dicionário {name: vector}; retorne a tupla (best_name, best_score) para o cosseno mais alto, desempatando nomes idênticos pelo primeiro nome em ordem alfabética. Mantenha o PROTOTYPES do iniciante como está: a verificação o lê.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.