Conteúdo do curso Lição 133 de 250 · Engenharia de prompts para engenheiros de IA
Engenharia de prompts para engenheiros de IA

Delimitadores, fundamentação e combate à alucinação

A forma mais eficaz de impedir um modelo de inventar coisas é a fundamentação: dê a ele o material de origem, cerque-o com delimitadores claros e instrua-o a responder só a partir desse material, com uma saída de emergência explícita quando a resposta não estiver lá. Esse é o núcleo de todo sistema de geração aumentada por recuperação, e é tudo montagem de prompt.

Construa grounded_prompt(question, context_chunks), que monta:

  • Uma seção CONTEXT: com cada chunk numerado e cercado, como [1] ..., [2] ....
  • A pergunta depois do contexto.
  • Uma instrução exata para responder só a partir do contexto, terminando com a saída de emergência: se a resposta não estiver no contexto, responda exatamente I don't know.
  • Um turno de resposta aberto no final, para que o modelo saiba que deve responder.

Depois construa o verificador. check_grounded(answer, context_chunks) retorna True quando a resposta é fundamentada: ou ela é exatamente a sentinela I don't know., OU toda palavra significativa da resposta aparece no contexto juntado. Ela retorna False quando a resposta contém palavras inventadas que o contexto nunca mencionou.

ctx = ["The capital of France is Paris."]
check_grounded("The capital is Paris.", ctx)            # True
check_grounded("I don't know.", ctx)                    # True (honest)
check_grounded("The capital is Berlin.", ctx)           # False (invented)

Ignore stopwords pequenas (the, is, a, of...) ao verificar as palavras significativas, para que frases normais não sejam punidas, mas uma palavra de conteúdo como Berlin, que nunca aparece no contexto, falha a verificação corretamente. Clique em Run para avaliar.

Seja honesto sobre o que isso pega: a verificação de presença sinaliza tokens inventados (palavras que o contexto nunca mencionou), mas não consegue pegar uma afirmação falsa montada com palavras reais do contexto. "Refunds take France business days" passaria aqui, embora seja um absurdo, porque toda palavra está no contexto. Verificar fidelidade de verdade exige um LLM-juiz ou um modelo de NLI (implicação) que raciocine sobre o significado, não só sobre a presença de palavras.

Sua vez

Escreva grounded_prompt(question, context_chunks), que numera e cerca os chunks sob CONTEXT:, acrescenta a pergunta, exige uma resposta só a partir do contexto com a saída de emergência exata I don't know. e termina em um turno de resposta aberto. Layout exato, linhas juntadas com "\n": CONTEXT:, depois uma linha por chunk escrita como [1] chunk text, [2] ..., uma linha em branco, Question: ..., a linha de instrução (ela precisa conter I don't know.) e por fim o turno de resposta aberto [assistant]. Escreva check_grounded(answer, context_chunks), que retorna True para a sentinela OU quando toda palavra significativa (que não é stopword) da resposta está no contexto juntado, senão False.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.