Ruoli e prompt di sistema
Un modello di chat moderno non vede un unico blocco di testo. Vede una lista di messaggi, ognuno con un ruolo. I ruoli che contano: system fissa le regole e il personaggio una volta in cima, user è ciò che ha scritto una persona, e assistant è ciò che il modello ha risposto. Farli giusti è la differenza tra un modello che si comporta bene e uno che divaga.
Una vera chiamata a un'API di chat ha questo aspetto (mostrata solo per rendere concreta la forma, in questo esercizio NON chiamerai nessuna API):
messages = [
{"role": "system", "content": "You are a terse support bot."},
{"role": "user", "content": "my order is late"},
]
# Some chat APIs take this list as it is. The Anthropic API takes the system
# text in its own argument instead (Module "Calling a Real LLM" builds this):
# response = client.messages.create(model=..., system=messages[0]["content"],
# messages=messages[1:])Se il tuo tutor è acceso, un modello sul dispositivo potrebbe perfino risponderti. Ma niente di questo è ciò su cui vieni valutato. Vieni valutato sulla parte che progetti davvero: assemblare correttamente la lista dei messaggi e rifiutarti di assemblarne una rotta.
Costruisci chat_prompt(system, turns) che rende una trascrizione come una sola stringa:
- La prima riga è il prompt di sistema:
[system] <system text>. - Poi ogni turno di
turns(una lista di tuple(role, content)) viene reso in ordine come[role] content. - Finisci con una riga
[assistant]aperta in fondo, il segnale per il modello di parlare. - Se un turno ha un ruolo diverso da
useroassistant, sollevaValueError. Il ruolo system si imposta una volta con il primo argomento, mai come turno.
Quindi chat_prompt("Be brief.", [("user", "hi")]) dà:
[system] Be brief.
[user] hi
[assistant]Quel controllo del ruolo non è lavoro inutile. Lasciare che chi chiama infili un falso turno system a metà conversazione è un modo reale in cui i prompt vengono dirottati. Valida l'input e fallisci ad alta voce. Premi Run per la correzione.
Scrivi chat_prompt(system, turns) che restituisce una stringa di trascrizione. La riga 1 è [system] <system>. Ogni (role, content) di turns viene reso in ordine come [role] content. Finisci con una riga [assistant] aperta in fondo. Solleva ValueError se il ruolo di un turno non è user o assistant. Senza turni l'uscita è esattamente "[system] <system>\n[assistant]".
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.