Recuperar + Construir o Grounded Prompt
A Recuperação funciona -- você consegue encontrar os artigos certos. Agora vem o movimento que torna o RAG confiável em vez de um mentiroso confiante: grounding. Você entrega o texto recuperado ao modelo de linguagem e o instrui a responder only a partir daquele texto, e a dizer isso quando a resposta não estiver lá. O modelo nunca vê seus documentos brutos; ele vê o prompt que você monta. Então o prompt is é o produto. Esta lição constrói esse prompt.
É aqui onde as alucinações são ganhas ou perdidas. Um bot de suporte que inventa um prazo de reembolso é pior que inútil, é um risco. A solução é um prompt disciplinado com três partes: os chunks recuperados cercados e numerados para que o modelo possa citá-los, a pergunta do usuário e uma escape hatch explícita para quando o contexto não contiver a resposta.
Escreva uma função:
assemble_prompt(query, retrieved_chunks) # -> the full prompt stringDeve, em ordem:
- Declare a regra de que o assistente responde usando apenas o contexto abaixo.
- Inclua esta linha exatamente, caractere por caractere:
If the answer is not in the context, reply exactly: I do not know. - Abra uma seção
CONTEXT:, depois liste cada pedaço numerado e cercado, como[1]seguido pelo texto do pedaço entre aspas triplas, depois[2], e assim por diante -- na ordem dada. - Adicione a pergunta do usuário em uma linha
QUESTION:. - Termine em uma virada de resposta aberta -- uma
ANSWER:linha final com nada depois dela, para que o modelo escreva a resposta em seguida.
A numeração importa: é o que permite ao modelo (e à próxima lição) citar qual fonte uma afirmação veio. A linha de escape exata também importa. O código posterior vai procurar por esse sentinela preciso para detectar uma recusa, então uma paráfrase quebra tudo.
Lide com o caso missing-context: se retrieved_chunks estiver vazio, você ainda produz um prompt válido (instrução, a linha de escape, um contexto vazio, a pergunta e a vez de resposta aberta) -- o modelo então responderá corretamente com o sentinela. A chamada de LLM ao vivo não faz parte deste exercício; você está construindo a string que ele receberia. Pressione Run para imprimir um prompt fundamentado e leia como o modelo faria.
Escreva assemble_prompt(query, retrieved_chunks) que retorna a string de prompt completa e fundamentada: uma instrução para responder apenas do contexto, a linha exata If the answer is not in the context, reply exactly: I do not know., uma seção CONTEXT: com cada chunk numerado [1], [2], ... e cercada por aspas triplas em ordem, uma linha QUESTION:, e um turno final aberto ANSWER:. Uma lista de chunks vazia ainda gera um prompt válido.
Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição
Este exercício abre em breve
Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.
Este navegador está bloqueando cookies para learn.floati.life, então as lições que você terminou aqui não podem abrir em ordem. Permita cookies para este site e recarregue.