Temario Lección 113 de 250 · Intuición de redes neuronales, LLM y proyecto final de IA
Intuición de redes neuronales, LLM y proyecto final de IA

Proyecto final de IA: tu código dirige un LLM en el dispositivo

Este es el proyecto final, y tú eres quien lo diseña. Todo el recorrido ha ido construyendo una idea: tu Python orquesta el modelo. El LLM es solo un componente al que llamas -> tu código decide qué datos ve, qué forma tiene la petición y qué pasa cuando no hay ningún modelo cargado. Vas a construir esa orquestación a partir de un archivo casi vacío.

Toda función de IA real es el mismo ciclo. Tu código hace el trabajo fiable y el modelo pone las palabras:

  • Calcula los datos con pandas. El código es exacto con la aritmética; un modelo no. Así que el número de filas, el total, la media y la categoría principal salen de un DataFrame, nunca del LLM. Es la única forma de evitar cifras alucinadas.
  • Da forma tú mismo a la petición. Una plantilla de prompt reutilizable mantiene separadas la instrucción del sistema (quién debería ser el modelo) y el mensaje del usuario (qué debería hacer), y luego las une en una sola cadena que termina en un marcador de turno para que el modelo sepa dónde empezar a escribir.
  • Ten siempre un camino sin conexión. El modelo en el dispositivo necesita WebGPU y no es determinista, así que también escribes un generador basado en reglas que convierte los mismos datos en una frase. La función funciona incluso sin ningún modelo.

Lo que vas a construir

Dos funciones, desde cero. build_prompt(system, user) devuelve una cadena limpia que contiene las dos partes y termina en Assistant:. insight(df) calcula las estadísticas de una tabla de gastos incluida y devuelve una línea en lenguaje sencillo que nombra tu categoría más grande y el total. Una pequeña función auxiliar spend_stats(df) hace el trabajo de pandas para que el informe y la conclusión lean de los mismos números.

El paso de IA (pruébalo en la aplicación)

Floati ejecuta su modelo en el lado del cliente con WebLLM sobre WebGPU -> sin cuenta, sin clave, sin nube, tus prompts nunca salen del equipo. La aplicación conecta un único motor compartido en window._floatiTutor. Cuando hayas construido build_prompt, esta es la llamada real (vive fuera del corrector porque necesita una GPU y no es determinista):

// Floati already created window._floatiTutor (a WebLLM engine).
const prompt = build_prompt("You explain budgets in one warm sentence.", report);
const reply = await window._floatiTutor.chat.completions.create({
  messages: [{ role: "user", content: prompt }],
  temperature: 0.5, max_tokens: 120,
});
console.log(reply.choices[0].message.content);

Fíjate en que el modelo solo ve la cadena report que produjo tu Python -> los números ya son correctos antes de que hable el modelo. Pulsa Ejecutar para ver cómo tu proceso sin conexión imprime sus estadísticas y su conclusión basada en reglas; ese informe impreso es exactamente lo que le pasarías al modelo de arriba. El corrector comprueba la forma de tu prompt y tu insight determinista, nunca la salida de ningún modelo.

Tu turno

Construye la orquestación. El DataFrame de gastos df ya está incluido (10 filas, columnas category y amount). Escribe tres cosas: (1) spend_stats(df) -> un diccionario con las claves rows, total, average, top_category, top_amount (totales y medias redondeados a 2 decimales, la categoría principal por importe sumado); (2) build_prompt(system, user) -> una cadena que contiene tanto system como user y termina en Assistant: para que el modelo continúe desde ahí; (3) insight(df) -> una cadena no vacía en lenguaje sencillo (la alternativa basada en reglas) que nombra la categoría principal y muestra un TOTAL: <amount> con dinero a 2 decimales. Luego asigna report = insight(df) y print(report).

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.