Modelos en el propio dispositivo
Por qué importa Un modelo en el propio dispositivo te responde sin que tus palabras salgan nunca de tu ordenador o tu teléfono. Eso convierte el "confía en nosotros con tus datos" en "nunca tuvimos tus datos". Así funcionan el pulido con IA del CV Builder y el tutor de este curso, y puedes comprobarlo tú mismo.
El chef en tu cocina
Una IA en la nube es como un restaurante: le das tu pedido a un camarero y se cocina fuera de tu vista. Un modelo en el propio dispositivo es como hacer que el chef venga a tu cocina. El chef tiene que viajar hasta ti una vez (esa es la descarga), pero después cada comida se cocina en casa, y nadie más ve lo que comes.
Modelo: un archivo grande de números (llamados pesos) más el código que los usa para predecir las siguientes palabras de un texto. "Ejecutar un modelo" significa hacer muchos cálculos con esos números.
Modelo en el propio dispositivo: un modelo cuyos pesos se descargan en tu dispositivo y se ejecutan allí, con tu propio procesador o tu chip gráfico. Tu indicación y la respuesta se quedan en el dispositivo.
Cómo funciona en un navegador
Floati usa WebLLM, una biblioteca de código abierto que ejecuta modelos de lenguaje dentro de una página web. Tres piezas lo hacen posible:
- WebGPU, una función del navegador que permite a una página usar tu chip gráfico (GPU) para hacer cálculos rápidos. Los modelos de lenguaje necesitan muchísimos cálculos, así que esto es lo que los hace utilizables en una pestaña.
- Un modelo pequeño y comprimido. El tutor del curso y el CV Builder usan un pequeño modelo que sigue instrucciones, de unos quinientos millones de parámetros, comprimido para que quepa en un navegador (comprobado en octubre de 2026).
- La caché del navegador, que guarda los pesos descargados para que la siguiente visita arranque mucho más rápido.
Parámetros: los números individuales que hay dentro de un modelo. Más parámetros suele significar un modelo más capaz, y una descarga más grande.
Cuantización: guardar cada número con menos bits (por ejemplo 4 bits en lugar de 16 o 32). Como guardar una foto con menos calidad: mucho más pequeña, un poco menos nítida.
Lo que sí viaja por la red
Aquí la honestidad importa. Usar un modelo en el propio dispositivo no es "nada de red en absoluto". Se descargan dos cosas:
- El código de la biblioteca que ejecuta el modelo.
- Los pesos del modelo, que son cientos de megabytes, descargados una vez y luego guardados en caché.
Las dos son descargas hacia ti. Lo que nunca se envía es tu parte: las preguntas que haces y el texto que pegas. El servidor que aloja los pesos sabe que alguien descargó un modelo, igual que al descargar cualquier archivo, pero nunca ve tu conversación.
Las contrapartidas
| Modelo en la nube | Modelo en el propio dispositivo | |
|---|---|---|
| Quién ve tu texto | El proveedor | Solo tu dispositivo |
| Calidad | Normalmente mucho más potente | Bueno en tareas pequeñas y concretas |
| Primer uso | Al instante | Una gran descarga única |
| Necesita | Una conexión a internet | Un navegador con WebGPU y memoria suficiente |
| Funciona sin conexión | No | Sí, una vez descargado |
WebGPU está disponible en las versiones de escritorio actuales de Chrome, Edge y Safari, y en Firefox en algunos sistemas (comprobado en octubre de 2026). En dispositivos antiguos o con poca memoria puede que el modelo ni se cargue, y por eso el CV Builder de Floati tiene también un sencillo sugeridor basado en reglas que no necesita ningún modelo. Ten clara la diferencia: ese sugeridor funciona en el propio servidor de Floati, así que el texto de tu CV se envía allí, aunque nunca a una empresa de IA.
Una idea equivocada muy común
"Los modelos pequeños no sirven para nada." Un modelo de quinientos millones de parámetros no escribirá tu novela, pero es bueno en tareas concretas: reformular una frase, dar una pista, resumir un párrafo. Para muchas tareas privadas, un modelo local pequeño es la herramienta adecuada, y un modelo gigante en la nube es un exceso que te cuesta tus datos.
Pruébalo Abre una lección con el tutor y abre las DevTools de tu navegador (F12, o Cmd+Option+I en un Mac), y luego la pestaña Network. Arranca el tutor: verás descargas grandes para el modelo. Una vez cargado, vacía la lista y hazle una pregunta al tutor. Mira la lista: puede que veas un pequeño contador de páginas, pero ninguna petición lleva tu pregunta ni tu código.
Resumen
- Un modelo en el propio dispositivo funciona en tu propio hardware, así que tus indicaciones y las respuestas nunca salen del dispositivo.
- En un navegador esto usa WebGPU, un modelo pequeño cuantizado y la caché; el tutor y el CV Builder de Floati usan WebLLM de esta forma.
- El código y los pesos se descargan hacia ti una vez; tu texto nunca se sube.
- El precio es una calidad menor, una gran primera descarga y unos requisitos del dispositivo.
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.