Montando o prompt fundamentado
A recuperação encontrou os chunks certos; agora você precisa dizer ao modelo para usá-los e nada mais. Esta é a etapa de montagem do prompt, e é nela que a fundamentação é garantida. Um prompt fundamentado faz três trabalhos: apresenta o contexto recuperado com clareza, instrui o modelo a responder só a partir desse contexto e dá ao modelo uma saída de emergência para que ele possa admitir que não sabe em vez de inventar uma resposta.
Numerar os chunks importa por dois motivos: separa-os visualmente para que o modelo não misture dois trechos, e permite que o modelo cite "[2]" se depois você pedir citações. A linha da saída de emergência é a outra metade da proteção de recusa da última lição: mesmo quando a recuperação é razoável, a resposta específica pode não estar no texto, e um modelo a quem se diz exatamente o que falar quando não sabe tem muito menos chance de alucinar.
System: Answer the question using only the context below.
If the answer is not in the context, reply exactly: I don't know.
Context:
[1] Refunds are issued within five business days...
[2] Shipping takes 5 to 7 business days...
Question: how long do refunds take?
Assistant:Essa linha final Assistant: é o turno aberto: é onde o modelo começa a escrever. (No seu navegador, o WebLLM no dispositivo pegaria exatamente esta string e produziria a resposta. Você é avaliado só pela string que monta, nunca pela resposta do modelo, já que essa é a parte determinística que você realmente constrói.)
O que construir. Escreva build_rag_prompt(query, contexts), em que contexts é uma lista de strings de chunks. O prompt retornado precisa:
- Conter cada chunk de contexto, numerado a partir de 1 como
[1] ...,[2] ..., em ordem. - Conter a instrução exata de responder usando só o contexto.
- Conter a saída de emergência exata
I don't know.(a resposta instruída do modelo quando a resposta não está lá). - Conter o texto de
query. - Terminar em um turno de resposta aberto (a última linha não vazia é o marcador
Assistant:).
Clique em Run para montar um prompt a partir de dois chunks recuperados e lê-lo de volta.
Escreva build_rag_prompt(query, contexts), que retorna uma string de prompt fundamentado. Ela precisa numerar cada chunk de contexto como [1] ..., [2] ... em ordem, incluir uma instrução para responder usando só o contexto, incluir a saída de emergência exata I don't know., incluir a query e terminar em um turno aberto Assistant:.
Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição
Este exercício abre em breve
Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.
Este navegador está bloqueando cookies para learn.floati.life, então as lições que você terminou aqui não podem abrir em ordem. Permita cookies para este site e recarregue.