Temario Lección 97 de 148 · Juzga la salida
Juzga la salida

Lee la salida, no el tono

Por qué importa La respuesta de un asistente es un paquete de afirmaciones: estos paquetes existen, este diff solo arregla el error, este código resuelve el caso límite, estos comandos son seguros. Cada afirmación se puede comprobar, y la mayoría de las comprobaciones son baratas.

Los módulos anteriores demostraron que un consejo estaba mal con una prueba que fallaba. Este módulo abre un poco más el foco: comprueba las partes de una respuesta que la gente se salta porque parecen fontanería.

  • Nombres: paquetes, funciones e indicadores. En un gran estudio sobre modelos que generan código, de media al menos el 5.2% de los paquetes que recomendaban los modelos comerciales, y el 21.7% de los de modelos abiertos, no existían, con más de 200,000 nombres inventados distintos (Spracklen et al., USENIX Security 2025). Un atacante puede registrar un nombre inventado y esperar.
  • Alcance: un diff que arregla el error y cambia en silencio otras tres funciones.
  • Decisiones: una petición vaga hace que el asistente decida cosas que nunca dijiste, como mayúsculas, orden o valores vacíos.
  • Coincidencia: preguntar dos veces y recibir dos veces la misma respuesta no la hace correcta.
  • Acciones: un agente que ejecuta comandos puede salirse de la carpeta que querías.

Slopsquatting: registrar un paquete con un nombre que los modelos suelen inventar, para que el código que lo instala ejecute el código del atacante.

Typosquatting: el truco más antiguo de registrar un nombre a un desliz de un paquete popular (requets), esperando un error al escribir, de una persona o de un modelo.

La salida del asistente en este módulo se escribió para el curso con la forma exacta que producen los asistentes reales. No es una grabación de ningún modelo concreto.

Resumen Divide una respuesta en afirmaciones y comprueba siempre las baratas: nombres, alcance, decisiones, coincidencia, acciones.

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.