La privacidad diferencial, como es debido
Por qué importa "Solo publicamos estadísticas anónimas" sonaba antes seguro. Antes en este curso viste que unas preguntas ingeniosas sobre un conjunto de datos todavía pueden señalar a una persona. La privacidad diferencial es la herramienta que pone un límite firme y medible a eso, y su idea central, el presupuesto de privacidad, es algo que puedes implementar en una tarde.
Código didáctico, no para uso real: el azar de los laboratorios de este módulo lleva semilla para que la corrección se pueda repetir, algo que los sistemas de privacidad reales nunca deben hacer. Los sistemas reales usan bibliotecas de privacidad diferencial revisadas que además tratan el redondeo y otras fugas sutiles. Nunca copies código didáctico en un producto.
La promesa
Imagina una encuesta que se publica con y sin tu respuesta. Si los dos resultados publicados se parecen casi del todo, nadie que los lea puede saber si participaste, y menos aún qué dijiste. Esa es toda la promesa.
Privacidad diferencial (DP): una garantía de que el resultado de un análisis apenas cambia tanto si se incluyen los datos de una persona como si no. Se consigue añadiendo ruido aleatorio de un tamaño cuidadosamente calculado.
Épsilon: el número que dice cuánto significa "apenas". Un épsilon pequeño (por ejemplo 0.1) significa mucho ruido y una privacidad fuerte; un épsilon grande (por ejemplo 5) significa poco ruido y una privacidad débil. Para un recuento sencillo, añadir ruido de Laplace con escala 1 / epsilon da épsilon-DP, porque una persona puede cambiar un recuento como mucho en 1.
El presupuesto
Aquí está la trampa. Haz la misma pregunta con ruido muchas veces y saca la media de las respuestas: el ruido se compensa, como mostró la lección de matemáticas, y aparece el recuento real. Así que cada respuesta filtra un poco, y las filtraciones se suman.
Composición: cuando respondes varias preguntas sobre las mismas personas, sus épsilon se suman. Responder con épsilon 0.25 cuatro veces cuesta 1.0 en total.
Presupuesto de privacidad: el épsilon total que permites para un conjunto de datos. Cada respuesta gasta algo. Cuando se acaba el presupuesto, dejas de responder, por muy educadamente que lo pida quien analiza.
Piensa en una tarjeta de prepago: cada pregunta cuesta algo, el saldo solo baja y una pregunta rechazada no cuesta nada. La contabilidad es lo que vas a construir. El ruido viene ya hecho con laplace(scale, rng) del mundo de práctica.
La DP local y la central en el mundo real
DP local: cada dispositivo añade ruido antes de enviar nada, así que la empresa nunca tiene los valores reales (la respuesta aleatorizada es DP local). DP central: un servidor de confianza tiene los datos reales y añade ruido solo a los resultados que publica.
Apple anunció en 2016 que usa privacidad diferencial local para aprender cosas como las palabras nuevas y los emojis populares desde los dispositivos sin recoger lo que escribió cada persona. El primer sistema de Google, RAPPOR (2014), también era local, y se usó para recoger estadísticas de su navegador. La DP local necesita muchísimo ruido por persona, así que solo da respuestas útiles con multitudes muy grandes y valores bastante comunes. Gran parte del trabajo que Google publicó después, como su biblioteca de privacidad diferencial de código abierto (2019), usa el modelo central, donde hace falta mucho menos ruido para el mismo épsilon, a cambio de confiar los datos en bruto al servidor.
Ningún modelo es "el correcto". La DP local te protege incluso de la empresa; la DP central da estadísticas más precisas. La agregación segura, dos lecciones más adelante, es una forma de conseguir algo de las dos cosas.
En otros lenguajes
La misma comprobación del presupuesto en JavaScript:
function spend(budget, epsilon) {
if (epsilon <= 0) return false;
if (budget.spent + epsilon > budget.total + 1e-9) return false;
budget.spent += epsilon;
budget.log.push(epsilon);
return true;
}Y en Rust, donde las reglas de préstamo hacen explícito "no cambies nada si rechazas":
fn spend(b: &mut Budget, eps: f64) -> bool {
if eps <= 0.0 || b.spent + eps > b.total + 1e-9 { return false; }
b.spent += eps;
b.log.push(eps);
true
}¿Por qué el 1e-9?
Los ordenadores guardan los decimales de forma aproximada: 0.1 + 0.2 es 0.30000000000000004 en Python. Sin un pequeño margen, gastar exactamente todo el presupuesto en pasos pequeños podría rechazarse por error. Las bibliotecas reales lo tratan con más cuidado; aquí basta con un pequeño margen.
Una idea equivocada muy común
"El ruido significa que los números publicados están mal, así que la DP no sirve." El ruido tiene el tamaño justo para ocultar a una persona, no la tendencia. Un recuento de 412 publicado como 409 o 415 sigue diciendo a la tienda qué páginas son populares, mientras que el recuento de 31 visitantes de una página delicada no se puede usar para confirmar que una persona concreta fue uno de ellos.
Resumen
- La DP promete que los resultados apenas cambian con o sin una persona; épsilon mide ese "apenas".
- Para un recuento, el ruido de Laplace con escala 1 / epsilon da épsilon-DP.
- Los épsilon se suman de una pregunta a otra, así que hay que llevar y hacer cumplir un presupuesto, y los rechazos no cuestan nada.
- La DP local (ruido en el dispositivo) no confía en nadie pero necesita multitudes enormes; la DP central es más precisa pero confía en el servidor.
Escribe cuatro funciones que gestionen un presupuesto de privacidad. make_budget(total) devuelve {"total": total, "spent": 0.0, "log": []}. remaining(budget) devuelve total menos spent. spend(budget, epsilon) devuelve False y no cambia nada si epsilon no es un número finito mayor que 0 (0, negativo, nan o infinito: un nan que se colara haría que spent fuera nan, y todas las comprobaciones posteriores pasarían, así que el presupuesto nunca se acabaría), o si gastarlo llevaría spent por encima de total en más de 1e-9; si no, suma epsilon a spent, lo añade a log y devuelve True. noisy_count(true_count, epsilon, budget, rng) devuelve None si spend rechaza, y si no true_count + laplace(1 / epsilon, rng). Se corrige la contabilidad, no los números con ruido exactos.
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.