Conteúdo do curso Lição 247 de 250 · Trabalhando com Respostas do Modelo
Trabalhando com Respostas do Modelo

Cortado, Recusado ou Fora de Escopo

Por que isso importa Um bot de suporte que mostra ao usuário metade de uma frase, ou um balão vazio, parece quebrado. Antes de mostrar qualquer resposta, decida que tipo de resposta ela é.

O app aqui é um assistente bancário cujo system prompt diz: responda apenas perguntas sobre contas e cartões, e para qualquer outra coisa responda exatamente OUT_OF_SCOPE. Cinco respostas:

  • a resposta normal;
  • OUT_OF_SCOPE exatamente como pedido;
  • o mesmo sinal escrito de forma solta (Out_of_scope. com uma nova linha): modelos seguem "responda exatamente" quase sempre, então combine com alguma tolerância (ignore letras maiúsculas, espaços e um ponto final no fim);
  • uma resposta cortada no limite de tokens;
  • a refusal: stop_reason é "refusal", o conteúdo está vazio, e um stop_details dict pode dizer por que.

Cada tipo precisa de uma tela diferente: mostre a resposta, mostre "Eu só posso ajudar com assuntos bancários", peça ao modelo para continuar ou tentar novamente com um limite maior, ou mostre uma recusa educada.

Sobre essas respostas: elas são simuladas. Cada uma foi escrita para este curso exatamente no formato que a Claude Messages API retorna (blocos de conteúdo, stop_reason, usage), e cada uma copia algo que modelos reais fazem. Elas não são gravações de um modelo ao vivo, então as palavras exatas são nossas; os formatos e os problemas são os reais que seu código encontrará.

Sua vez

Escreva classify_reply(reply) retornando um de "refused" (stop_reason é "refusal"), "cut_off" (stop_reason é "max_tokens"), "out_of_scope" (o texto, com espaços ao redor e um . final removidos, é igual a OUT_OF_SCOPE ignorando a caixa), "empty" (nenhum texto), ou "answer". Verifique eles nessa ordem. Mantenha o REPLIES do iniciador como está: a verificação o lê.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.