Temario Lección 92 de 148 · La lección que miente
La lección que miente

Seguro y equivocado

Por qué importa Un modelo de lenguaje escribe una respuesta incorrecta con la misma voz tranquila y bien formateada que una correcta. El tono no te dice nada. Una prueba que falla te lo dice todo.

Para lo que se entrena a estos modelos es para sonar fluidos, así que no les cuesta nada. La corrección es una propiedad aparte, y el texto no muestra cuál de las dos estás recibiendo. Los consejos que suenan a práctica asentada ("reinténtalo y ya", "esta regex es la estándar", "el nombre y el tamaño bastan") son los más peligrosos, porque no invitan a mirar dos veces.

En un estudio de Stanford, las personas que escribieron código sensible para la seguridad con un asistente de IA escribieron código menos seguro que las que lo hicieron sin él, y eran más propensas a creer que su código era seguro (Perry et al. 2023). La misma brecha aparece con la velocidad: en un ensayo de 2025, desarrolladores experimentados de código abierto que usaban herramientas de IA tardaron más en sus tareas mientras creían haber ido más rápido (METR 2025). Lo seguro que te sientes de una respuesta no es una medida de ella.

Demuéstralo, no lo discutas

Cuando un consejo te da mala espina, la respuesta más fuerte no es un argumento mejor. Es una prueba pequeña que falla con el código aconsejado y pasa con una versión correcta. A un argumento se le puede contestar con otro. Una prueba que falla zanja la discusión, y se queda en el código para que el error no pueda volver.

Contraejemplo: una entrada concreta en la que la afirmación es falsa. Basta con uno para hundir un "esto siempre funciona".

Cómo funciona este módulo

Cada lección muestra un consejo plantado con código. El consejo se escribió para el curso y está mal a propósito, de las formas en que se equivocan los consejos reales. Tú escribes una prueba. Se ejecuta contra el código aconsejado, varios parientes cercanos suyos y una versión correcta oculta. Debe pasar con la correcta y atrapar suficientes de las demás.

Resumen Sonar bien no es ser correcto. Convierte una duda en un contraejemplo, y el contraejemplo en una prueba.

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.