Programma Lezione 214 di 250 · Progetto: copilota per l'assistenza clienti
Progetto: copilota per l'assistenza clienti

Recuperare + costruire il prompt ancorato

Il recupero funziona: sai trovare gli articoli giusti. Ora arriva la mossa che rende il RAG affidabile invece di un bugiardo sicuro di sé: l'ancoraggio. Dai al modello linguistico il testo recuperato e gli dici di rispondere solo da quel testo, e di dirlo quando la risposta non c'è. Il modello non vede mai i tuoi documenti grezzi; vede il prompt che assembli. Quindi il prompt è il prodotto. Questa lezione costruisce quel prompt.

È qui che le allucinazioni si vincono o si perdono. Un bot di assistenza che si inventa un periodo per i rimborsi è peggio che inutile: è un rischio. La soluzione è un prompt disciplinato in tre parti: i pezzi recuperati recintati e numerati così il modello può citarli, la domanda dell'utente, e una via d'uscita esplicita per quando il contesto non contiene la risposta.

Scrivi una funzione:

assemble_prompt(query, retrieved_chunks)  # -> the full prompt string

Deve, in ordine:

  • Dichiarare la regola che l'assistente risponde usando solo il contesto qui sotto.
  • Includere questa riga esattamente, carattere per carattere: If the answer is not in the context, reply exactly: I do not know.
  • Aprire una sezione CONTEXT:, poi elencare ogni pezzo numerato e recintato, come [1] seguito dal testo del pezzo tra triple virgolette, poi [2], e così via, nell'ordine dato.
  • Aggiungere la domanda dell'utente su una riga QUESTION:.
  • Finire su un turno di risposta aperto: un'ultima riga ANSWER: senza niente dopo, così il modello scrive poi la risposta.

La numerazione conta: è ciò che permette al modello (e alla prossima lezione) di citare da quale fonte viene un'affermazione. Conta anche la riga di uscita esatta: il codice a valle cercherà proprio quella sentinella precisa per riconoscere un rifiuto, quindi una parafrasi rompe tutto.

Gestisci il caso del contesto mancante: se retrieved_chunks è vuota, produci comunque un prompt valido (istruzione, la riga di uscita, un contesto vuoto, la domanda, e il turno di risposta aperto): il modello risponderà allora correttamente con la sentinella. La chiamata dal vivo all'LLM non fa parte di questo esercizio; stai costruendo la stringa che riceverebbe. Premi Run per stampare un prompt ancorato e leggerlo come lo leggerebbe il modello.

Tocca a te

Scrivi assemble_prompt(query, retrieved_chunks) che restituisce l'intera stringa di prompt ancorato: un'istruzione di rispondere solo dal contesto, esattamente la riga If the answer is not in the context, reply exactly: I do not know., una sezione CONTEXT: con ogni pezzo numerato [1], [2], ... e recintato tra triple virgolette in ordine, una riga QUESTION:, e un ultimo turno ANSWER: aperto. Una lista di pezzi vuota dà comunque un prompt valido.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.