Temario Lección 158 de 250 · Construye una canalización RAG
Construye una canalización RAG

Montar el prompt fundamentado

La recuperación encontró los fragmentos correctos; ahora tienes que decirle al modelo que los use a ellos y nada más. Este es el paso de montaje del prompt, y es donde se impone la fundamentación. Un prompt fundamentado hace tres trabajos: presenta el contexto recuperado con claridad, indica al modelo que responda solo a partir de ese contexto, y le da al modelo una salida de emergencia para que pueda admitir que no sabe en lugar de inventarse una respuesta.

Numerar los fragmentos importa por dos razones: los separa visualmente para que el modelo no mezcle dos pasajes, y le permite citar "[2]" si más adelante pides citas. La línea de salida de emergencia es la otra mitad de la barrera de rechazo de la lección anterior: incluso cuando la recuperación es decente, la respuesta concreta puede no estar en el texto, y un modelo al que se le dice exactamente qué decir cuando no sabe tiene muchas menos probabilidades de alucinar.

System: Answer the question using only the context below.
If the answer is not in the context, reply exactly: I don't know.

Context:
[1] Refunds are issued within five business days...
[2] Shipping takes 5 to 7 business days...

Question: how long do refunds take?
Assistant:

Esa línea final Assistant: es el turno abierto: es donde el modelo empieza a escribir. (En tu navegador, el WebLLM del dispositivo tomaría exactamente esta cadena y produciría la respuesta. Solo se evalúa la cadena que montas, nunca la respuesta del modelo: esa cadena es la parte determinista que de verdad diseñas.)

Qué construir. Escribe build_rag_prompt(query, contexts), donde contexts es una lista de cadenas de fragmentos. El prompt devuelto debe:

  • Contener cada fragmento de contexto, numerado empezando en 1 como [1] ..., [2] ... en orden.
  • Contener la instrucción exacta de responder usando solo el contexto.
  • Contener la salida de emergencia exacta I don't know. (la respuesta indicada al modelo cuando la respuesta no está).
  • Contener el texto de query.
  • Terminar en un turno de respuesta abierto (la última línea no vacía es el marcador Assistant:).

Pulsa Ejecutar para montar un prompt a partir de dos fragmentos recuperados y leerlo.

Tu turno

Escribe build_rag_prompt(query, contexts), que devuelva una cadena de prompt fundamentado. Debe numerar cada fragmento de contexto como [1] ..., [2] ... en orden, incluir una instrucción para responder usando solo el contexto, incluir la salida de emergencia exacta I don't know., incluir la query, y terminar en un turno abierto Assistant:.

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.