Conteúdo do curso Lição 214 de 250 · Projeto: Copiloto de Suporte ao Cliente
Projeto: Copiloto de Suporte ao Cliente

Recuperar + Construir o Grounded Prompt

A Recuperação funciona -- você consegue encontrar os artigos certos. Agora vem o movimento que torna o RAG confiável em vez de um mentiroso confiante: grounding. Você entrega o texto recuperado ao modelo de linguagem e o instrui a responder only a partir daquele texto, e a dizer isso quando a resposta não estiver lá. O modelo nunca vê seus documentos brutos; ele vê o prompt que você monta. Então o prompt is é o produto. Esta lição constrói esse prompt.

É aqui onde as alucinações são ganhas ou perdidas. Um bot de suporte que inventa um prazo de reembolso é pior que inútil, é um risco. A solução é um prompt disciplinado com três partes: os chunks recuperados cercados e numerados para que o modelo possa citá-los, a pergunta do usuário e uma escape hatch explícita para quando o contexto não contiver a resposta.

Escreva uma função:

assemble_prompt(query, retrieved_chunks)  # -> the full prompt string

Deve, em ordem:

  • Declare a regra de que o assistente responde usando apenas o contexto abaixo.
  • Inclua esta linha exatamente, caractere por caractere: If the answer is not in the context, reply exactly: I do not know.
  • Abra uma seção CONTEXT:, depois liste cada pedaço numerado e cercado, como [1] seguido pelo texto do pedaço entre aspas triplas, depois [2], e assim por diante -- na ordem dada.
  • Adicione a pergunta do usuário em uma linha QUESTION:.
  • Termine em uma virada de resposta aberta -- uma ANSWER: linha final com nada depois dela, para que o modelo escreva a resposta em seguida.

A numeração importa: é o que permite ao modelo (e à próxima lição) citar qual fonte uma afirmação veio. A linha de escape exata também importa. O código posterior vai procurar por esse sentinela preciso para detectar uma recusa, então uma paráfrase quebra tudo.

Lide com o caso missing-context: se retrieved_chunks estiver vazio, você ainda produz um prompt válido (instrução, a linha de escape, um contexto vazio, a pergunta e a vez de resposta aberta) -- o modelo então responderá corretamente com o sentinela. A chamada de LLM ao vivo não faz parte deste exercício; você está construindo a string que ele receberia. Pressione Run para imprimir um prompt fundamentado e leia como o modelo faria.

Sua vez

Escreva assemble_prompt(query, retrieved_chunks) que retorna a string de prompt completa e fundamentada: uma instrução para responder apenas do contexto, a linha exata If the answer is not in the context, reply exactly: I do not know., uma seção CONTEXT: com cada chunk numerado [1], [2], ... e cercada por aspas triplas em ordem, uma linha QUESTION:, e um turno final aberto ANSWER:. Uma lista de chunks vazia ainda gera um prompt válido.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.