Conteúdo do curso Lição 158 de 250 · Construa um pipeline de RAG
Construa um pipeline de RAG

Montando o prompt fundamentado

A recuperação encontrou os chunks certos; agora você precisa dizer ao modelo para usá-los e nada mais. Esta é a etapa de montagem do prompt, e é nela que a fundamentação é garantida. Um prompt fundamentado faz três trabalhos: apresenta o contexto recuperado com clareza, instrui o modelo a responder só a partir desse contexto e dá ao modelo uma saída de emergência para que ele possa admitir que não sabe em vez de inventar uma resposta.

Numerar os chunks importa por dois motivos: separa-os visualmente para que o modelo não misture dois trechos, e permite que o modelo cite "[2]" se depois você pedir citações. A linha da saída de emergência é a outra metade da proteção de recusa da última lição: mesmo quando a recuperação é razoável, a resposta específica pode não estar no texto, e um modelo a quem se diz exatamente o que falar quando não sabe tem muito menos chance de alucinar.

System: Answer the question using only the context below.
If the answer is not in the context, reply exactly: I don't know.

Context:
[1] Refunds are issued within five business days...
[2] Shipping takes 5 to 7 business days...

Question: how long do refunds take?
Assistant:

Essa linha final Assistant: é o turno aberto: é onde o modelo começa a escrever. (No seu navegador, o WebLLM no dispositivo pegaria exatamente esta string e produziria a resposta. Você é avaliado só pela string que monta, nunca pela resposta do modelo, já que essa é a parte determinística que você realmente constrói.)

O que construir. Escreva build_rag_prompt(query, contexts), em que contexts é uma lista de strings de chunks. O prompt retornado precisa:

  • Conter cada chunk de contexto, numerado a partir de 1 como [1] ..., [2] ..., em ordem.
  • Conter a instrução exata de responder usando só o contexto.
  • Conter a saída de emergência exata I don't know. (a resposta instruída do modelo quando a resposta não está lá).
  • Conter o texto de query.
  • Terminar em um turno de resposta aberto (a última linha não vazia é o marcador Assistant:).

Clique em Run para montar um prompt a partir de dois chunks recuperados e lê-lo de volta.

Sua vez

Escreva build_rag_prompt(query, contexts), que retorna uma string de prompt fundamentado. Ela precisa numerar cada chunk de contexto como [1] ..., [2] ... em ordem, incluir uma instrução para responder usando só o contexto, incluir a saída de emergência exata I don't know., incluir a query e terminar em um turno aberto Assistant:.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.