Proyecto final de IA: tu código dirige un LLM en el dispositivo
Este es el proyecto final, y tú eres quien lo diseña. Todo el recorrido ha ido construyendo una idea: tu Python orquesta el modelo. El LLM es solo un componente al que llamas -> tu código decide qué datos ve, qué forma tiene la petición y qué pasa cuando no hay ningún modelo cargado. Vas a construir esa orquestación a partir de un archivo casi vacío.
Toda función de IA real es el mismo ciclo. Tu código hace el trabajo fiable y el modelo pone las palabras:
- Calcula los datos con pandas. El código es exacto con la aritmética; un modelo no. Así que el número de filas, el total, la media y la categoría principal salen de un DataFrame, nunca del LLM. Es la única forma de evitar cifras alucinadas.
- Da forma tú mismo a la petición. Una plantilla de prompt reutilizable mantiene separadas la instrucción del sistema (quién debería ser el modelo) y el mensaje del usuario (qué debería hacer), y luego las une en una sola cadena que termina en un marcador de turno para que el modelo sepa dónde empezar a escribir.
- Ten siempre un camino sin conexión. El modelo en el dispositivo necesita WebGPU y no es determinista, así que también escribes un generador basado en reglas que convierte los mismos datos en una frase. La función funciona incluso sin ningún modelo.
Lo que vas a construir
Dos funciones, desde cero. build_prompt(system, user) devuelve una cadena limpia que contiene las dos partes y termina en Assistant:. insight(df) calcula las estadísticas de una tabla de gastos incluida y devuelve una línea en lenguaje sencillo que nombra tu categoría más grande y el total. Una pequeña función auxiliar spend_stats(df) hace el trabajo de pandas para que el informe y la conclusión lean de los mismos números.
El paso de IA (pruébalo en la aplicación)
Floati ejecuta su modelo en el lado del cliente con WebLLM sobre WebGPU -> sin cuenta, sin clave, sin nube, tus prompts nunca salen del equipo. La aplicación conecta un único motor compartido en window._floatiTutor. Cuando hayas construido build_prompt, esta es la llamada real (vive fuera del corrector porque necesita una GPU y no es determinista):
// Floati already created window._floatiTutor (a WebLLM engine).
const prompt = build_prompt("You explain budgets in one warm sentence.", report);
const reply = await window._floatiTutor.chat.completions.create({
messages: [{ role: "user", content: prompt }],
temperature: 0.5, max_tokens: 120,
});
console.log(reply.choices[0].message.content);Fíjate en que el modelo solo ve la cadena report que produjo tu Python -> los números ya son correctos antes de que hable el modelo. Pulsa Ejecutar para ver cómo tu proceso sin conexión imprime sus estadísticas y su conclusión basada en reglas; ese informe impreso es exactamente lo que le pasarías al modelo de arriba. El corrector comprueba la forma de tu prompt y tu insight determinista, nunca la salida de ningún modelo.
Construye la orquestación. El DataFrame de gastos df ya está incluido (10 filas, columnas category y amount). Escribe tres cosas: (1) spend_stats(df) -> un diccionario con las claves rows, total, average, top_category, top_amount (totales y medias redondeados a 2 decimales, la categoría principal por importe sumado); (2) build_prompt(system, user) -> una cadena que contiene tanto system como user y termina en Assistant: para que el modelo continúe desde ahí; (3) insight(df) -> una cadena no vacía en lenguaje sencillo (la alternativa basada en reglas) que nombra la categoría principal y muestra un TOTAL: <amount> con dinero a 2 decimales. Luego asigna report = insight(df) y print(report).
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.