Programma Lezione 134 di 250 · Prompt engineering per ingegneri dell'IA
Prompt engineering per ingegneri dell'IA

Progetto finale: una pipeline di prompt di produzione (smistamento dei ticket)

Questo è il gran finale: colleghi tutto il modulo in un'unica pipeline di prompt di produzione per smistare i ticket di assistenza. Arriva un ticket grezzo; devi difenderti dall'injection, rispettare un budget di token, assemblare un prompt few-shot, e poi validare qualunque JSON restituisca il modello. Il modello classifica il ticket (quel passo è l'LLM, ed è l'unica parte non valutata). Tutto ciò che c'è intorno è l'ingegneria che è tua.

Costruisci l'assemblatore del prompt. build_triage_prompt(ticket, budget=200):

  • Fa passare il ticket per il riconoscimento delle injection. Se è sospetto, il corpo del ticket diventa [blocked input] e il contenuto grezzo non entra mai nel prompt.
  • Altrimenti taglia il ticket a budget caratteri (i ticket possono essere enormi; paghi per token).
  • Assembla un'istruzione [system], poi due esempi few-shot Ticket: ... / JSON: ..., poi il vero ticket recintato, finendo con una riga [assistant] in fondo.

Costruisci il validatore dell'uscita. parse_triage(model_json) fa json.loads della risposta del modello dentro un try/except e controlla due enumerazioni: category in {billing, technical, account, general} e urgency in {low, medium, high}. Restituisci {"ok": bool, "errors": [...]}.

parse_triage('{"category": "billing", "urgency": "high"}')   # ok True
parse_triage('{"category": "weather", "urgency": "high"}')   # ok False
parse_triage('not json at all')                              # ok False, no crash

Se il tuo tutor è acceso, un modello sul dispositivo può produrre il JSON che parse_triage poi valida, chiudendo il cerchio dal vivo. Ma la correzione tocca solo le parti deterministiche: il prompt ha la struttura giusta, blocca le injection, taglia i ticket troppo grandi, e il validatore accetta l'uscita buona rifiutando quella cattiva. Riusa is_suspicious e wrap_user_input della lezione sull'injection, inclusi nel codice di partenza. Premi Run per la correzione.

Tocca a te

Scrivi build_triage_prompt(ticket, budget=200): riconosci le injection (sospetto -> il corpo del ticket diventa [blocked input], contenuto assente), altrimenti taglia a budget caratteri; assembla una riga [system], due esempi few-shot Ticket:/JSON:, il vero ticket recintato, e un [assistant] in fondo. Il vero ticket va su una riga a sé che comincia con Ticket: , come gli esempi, con il corpo recintato da wrap_user_input (della lezione sull'injection). Scrivi parse_triage(model_json) che fa json.loads in un try/except e valida category in {billing,technical,account,general} e urgency in {low,medium,high}, restituendo {"ok", "errors"}.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.