Temario Lección 34 de 246 · Módulo 2: Matemáticas y probabilidad, solo lo necesario
Módulo 2: Matemáticas y probabilidad, solo lo necesario

De puntuaciones a probabilidades (softmax)

Por qué importa Un clasificador de dígitos termina con 10 puntuaciones en bruto, una por dígito. Para leerlas como "qué probabilidad tiene cada dígito", tienen que ser positivas y sumar 1.

Números diminutos

Puntuaciones [2, 1, 0]. Hazlas positivas con exp: más o menos [7.39, 2.72, 1.00]. Divide entre el total, 11.11: [0.665, 0.245, 0.090]. Suman 1, mantienen el mismo orden, y una puntuación más alta siempre significa una probabilidad más alta.

Softmax: exp de cada puntuación, dividido entre la suma de todos los exp. Logits: las puntuaciones en bruto que entran.

Una trampa: sumar el mismo número a todas las puntuaciones no cambia nada (se cancela en la división). Prueba [1002, 1001, 1000]: la misma respuesta que [2, 1, 0] sobre el papel, pero exp(1002) se desborda en un ordenador. Lo arreglarás en la prueba de paso.

Resumen exp, y luego divide entre el total.

Palabras y símbolos de esta lección
softmax
exp de cada puntuación dividido entre el total: las puntuaciones se vuelven probabilidades
Tu turno

Escribe softmax(z) para un array 1D (aquí basta la versión sencilla), y shift_invariant: ponlo a True si sumar el mismo número a todas las puntuaciones deja igual la salida, o a False si la cambia.

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.