Programma Les 134 van 250 · Prompt Engineering voor AI Engineers
Prompt Engineering voor AI Engineers

Capstone: Een Productie Prompt Pipeline (Ticket Triage)

Dit is de finale: je verbindt het hele module in één production prompt pipeline voor support-ticket triage. Een ruw ticket komt binnen; je moet je verdedigen tegen injectie, een token Budget respecteren, een few-shot prompt samenstellen, en daarna het JSON dat het model retourneert valideren. Het model classificeert het ticket (die ene stap is de LLM, en dat is het enige niet-beoordeelde deel). Alles eromheen is de engineering waar jij verantwoordelijk voor bent.

Bouw de prompt assembler. build_triage_prompt(ticket, budget=200):

  • Voert het ticket door de injectiedetectie. Als het verdacht is, wordt de ticketbody [blocked input] en komt de raw payload nooit in de prompt.
  • Behoudt de ticket andersom tot budget karakters (tickets kunnen enorm groot zijn; je betaalt per token).
  • Stelt een [system] instructie samen, dan twee few-shot Ticket: ... / JSON: ... voorbeelden, dan het omheinde echte ticket, eindigend op een afsluitende [assistant] regel.

Bouw de output validator. parse_triage(model_json) json.loads het antwoord van het model binnen een try/except en controleert twee enums: category in {billing, technical, account, general} en urgency in {low, medium, high}. Geef {"ok": bool, "errors": [...]} terug.

parse_triage('{"category": "billing", "urgency": "high"}')   # ok True
parse_triage('{"category": "weather", "urgency": "high"}')   # ok False
parse_triage('not json at all')                              # ok False, no crash

Als je tutor aan staat, kan een on-device model de JSON produceren die parse_triage vervolgens valideert, waardoor de lus live wordt gesloten. Maar het nakijken raakt alleen de deterministische delen: de prompt heeft de juiste structuur, blokkeert injecties, kapt te grote tickets af, en de validator accepteert goede output terwijl hij slechte weigert. Gebruik is_suspicious en wrap_user_input uit de injectieleer, meegeleverd in de starter. Druk op Run om te nakijken.

Jij bent aan de beurt

Schrijf build_triage_prompt(ticket, budget=200): detecteer injectie (verdacht -> ticket body wordt [blocked input], payload afwezig), anders verkort naar budget tekens; stel een [system] regel samen, twee korte few-shot Ticket:/JSON: voorbeelden, het omheinde echte ticket en een afsluitende [assistant]. Het echte ticket gaat op een eigen regel beginnend met Ticket: , zoals de voorbeelden, met zijn body omheind door wrap_user_input (van de injectieleer). Schrijf parse_triage(model_json) dat json.loads in een try/except en valideert category in {billing,technical,account,general} en urgency in {low,medium,high}, waarbij {"ok", "errors"} wordt geretourneerd.

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.