Cortado, Recusado ou Fora de Escopo
Por que isso importa Um bot de suporte que mostra ao usuário metade de uma frase, ou um balão vazio, parece quebrado. Antes de mostrar qualquer resposta, decida que tipo de resposta ela é.
O app aqui é um assistente bancário cujo system prompt diz: responda apenas perguntas sobre contas e cartões, e para qualquer outra coisa responda exatamente OUT_OF_SCOPE. Cinco respostas:
- a resposta normal;
OUT_OF_SCOPEexatamente como pedido;- o mesmo sinal escrito de forma solta (
Out_of_scope.com uma nova linha): modelos seguem "responda exatamente" quase sempre, então combine com alguma tolerância (ignore letras maiúsculas, espaços e um ponto final no fim); - uma resposta cortada no limite de tokens;
- a refusal:
stop_reasoné"refusal", o conteúdo está vazio, e umstop_detailsdict pode dizer por que.
Cada tipo precisa de uma tela diferente: mostre a resposta, mostre "Eu só posso ajudar com assuntos bancários", peça ao modelo para continuar ou tentar novamente com um limite maior, ou mostre uma recusa educada.
Sobre essas respostas: elas são simuladas. Cada uma foi escrita para este curso exatamente no formato que a Claude Messages API retorna (blocos de conteúdo, stop_reason, usage), e cada uma copia algo que modelos reais fazem. Elas não são gravações de um modelo ao vivo, então as palavras exatas são nossas; os formatos e os problemas são os reais que seu código encontrará.
Escreva classify_reply(reply) retornando um de "refused" (stop_reason é "refusal"), "cut_off" (stop_reason é "max_tokens"), "out_of_scope" (o texto, com espaços ao redor e um . final removidos, é igual a OUT_OF_SCOPE ignorando a caixa), "empty" (nenhum texto), ou "answer". Verifique eles nessa ordem. Mantenha o REPLIES do iniciador como está: a verificação o lê.
Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição
Este exercício abre em breve
Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.
Este navegador está bloqueando cookies para learn.floati.life, então as lições que você terminou aqui não podem abrir em ordem. Permita cookies para este site e recarregue.