Recuperare + costruire il prompt ancorato
Il recupero funziona: sai trovare gli articoli giusti. Ora arriva la mossa che rende il RAG affidabile invece di un bugiardo sicuro di sé: l'ancoraggio. Dai al modello linguistico il testo recuperato e gli dici di rispondere solo da quel testo, e di dirlo quando la risposta non c'è. Il modello non vede mai i tuoi documenti grezzi; vede il prompt che assembli. Quindi il prompt è il prodotto. Questa lezione costruisce quel prompt.
È qui che le allucinazioni si vincono o si perdono. Un bot di assistenza che si inventa un periodo per i rimborsi è peggio che inutile: è un rischio. La soluzione è un prompt disciplinato in tre parti: i pezzi recuperati recintati e numerati così il modello può citarli, la domanda dell'utente, e una via d'uscita esplicita per quando il contesto non contiene la risposta.
Scrivi una funzione:
assemble_prompt(query, retrieved_chunks) # -> the full prompt stringDeve, in ordine:
- Dichiarare la regola che l'assistente risponde usando solo il contesto qui sotto.
- Includere questa riga esattamente, carattere per carattere:
If the answer is not in the context, reply exactly: I do not know. - Aprire una sezione
CONTEXT:, poi elencare ogni pezzo numerato e recintato, come[1]seguito dal testo del pezzo tra triple virgolette, poi[2], e così via, nell'ordine dato. - Aggiungere la domanda dell'utente su una riga
QUESTION:. - Finire su un turno di risposta aperto: un'ultima riga
ANSWER:senza niente dopo, così il modello scrive poi la risposta.
La numerazione conta: è ciò che permette al modello (e alla prossima lezione) di citare da quale fonte viene un'affermazione. Conta anche la riga di uscita esatta: il codice a valle cercherà proprio quella sentinella precisa per riconoscere un rifiuto, quindi una parafrasi rompe tutto.
Gestisci il caso del contesto mancante: se retrieved_chunks è vuota, produci comunque un prompt valido (istruzione, la riga di uscita, un contesto vuoto, la domanda, e il turno di risposta aperto): il modello risponderà allora correttamente con la sentinella. La chiamata dal vivo all'LLM non fa parte di questo esercizio; stai costruendo la stringa che riceverebbe. Premi Run per stampare un prompt ancorato e leggerlo come lo leggerebbe il modello.
Scrivi assemble_prompt(query, retrieved_chunks) che restituisce l'intera stringa di prompt ancorato: un'istruzione di rispondere solo dal contesto, esattamente la riga If the answer is not in the context, reply exactly: I do not know., una sezione CONTEXT: con ogni pezzo numerato [1], [2], ... e recintato tra triple virgolette in ordine, una riga QUESTION:, e un ultimo turno ANSWER: aperto. Una lista di pezzi vuota dà comunque un prompt valido.
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.