Programma Lezione 123 di 250 · Prompt engineering per ingegneri dell'IA
Prompt engineering per ingegneri dell'IA

Ruoli e prompt di sistema

Un modello di chat moderno non vede un unico blocco di testo. Vede una lista di messaggi, ognuno con un ruolo. I ruoli che contano: system fissa le regole e il personaggio una volta in cima, user è ciò che ha scritto una persona, e assistant è ciò che il modello ha risposto. Farli giusti è la differenza tra un modello che si comporta bene e uno che divaga.

Una vera chiamata a un'API di chat ha questo aspetto (mostrata solo per rendere concreta la forma, in questo esercizio NON chiamerai nessuna API):

messages = [
    {"role": "system", "content": "You are a terse support bot."},
    {"role": "user", "content": "my order is late"},
]
# Some chat APIs take this list as it is. The Anthropic API takes the system
# text in its own argument instead (Module "Calling a Real LLM" builds this):
# response = client.messages.create(model=..., system=messages[0]["content"],
#                                   messages=messages[1:])

Se il tuo tutor è acceso, un modello sul dispositivo potrebbe perfino risponderti. Ma niente di questo è ciò su cui vieni valutato. Vieni valutato sulla parte che progetti davvero: assemblare correttamente la lista dei messaggi e rifiutarti di assemblarne una rotta.

Costruisci chat_prompt(system, turns) che rende una trascrizione come una sola stringa:

  • La prima riga è il prompt di sistema: [system] <system text>.
  • Poi ogni turno di turns (una lista di tuple (role, content)) viene reso in ordine come [role] content.
  • Finisci con una riga [assistant] aperta in fondo, il segnale per il modello di parlare.
  • Se un turno ha un ruolo diverso da user o assistant, solleva ValueError. Il ruolo system si imposta una volta con il primo argomento, mai come turno.

Quindi chat_prompt("Be brief.", [("user", "hi")]) dà:

[system] Be brief.
[user] hi
[assistant]

Quel controllo del ruolo non è lavoro inutile. Lasciare che chi chiama infili un falso turno system a metà conversazione è un modo reale in cui i prompt vengono dirottati. Valida l'input e fallisci ad alta voce. Premi Run per la correzione.

Tocca a te

Scrivi chat_prompt(system, turns) che restituisce una stringa di trascrizione. La riga 1 è [system] <system>. Ogni (role, content) di turns viene reso in ordine come [role] content. Finisci con una riga [assistant] aperta in fondo. Solleva ValueError se il ruolo di un turno non è user o assistant. Senza turni l'uscita è esattamente "[system] <system>\n[assistant]".

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.