Capstone: Een Productie Prompt Pipeline (Ticket Triage)
Dit is de finale: je verbindt het hele module in één production prompt pipeline voor support-ticket triage. Een ruw ticket komt binnen; je moet je verdedigen tegen injectie, een token Budget respecteren, een few-shot prompt samenstellen, en daarna het JSON dat het model retourneert valideren. Het model classificeert het ticket (die ene stap is de LLM, en dat is het enige niet-beoordeelde deel). Alles eromheen is de engineering waar jij verantwoordelijk voor bent.
Bouw de prompt assembler. build_triage_prompt(ticket, budget=200):
- Voert het ticket door de injectiedetectie. Als het verdacht is, wordt de ticketbody
[blocked input]en komt de raw payload nooit in de prompt. - Behoudt de ticket andersom tot
budgetkarakters (tickets kunnen enorm groot zijn; je betaalt per token). - Stelt een
[system]instructie samen, dan twee few-shotTicket: ... / JSON: ...voorbeelden, dan het omheinde echte ticket, eindigend op een afsluitende[assistant]regel.
Bouw de output validator. parse_triage(model_json) json.loads het antwoord van het model binnen een try/except en controleert twee enums: category in {billing, technical, account, general} en urgency in {low, medium, high}. Geef {"ok": bool, "errors": [...]} terug.
parse_triage('{"category": "billing", "urgency": "high"}') # ok True
parse_triage('{"category": "weather", "urgency": "high"}') # ok False
parse_triage('not json at all') # ok False, no crashAls je tutor aan staat, kan een on-device model de JSON produceren die parse_triage vervolgens valideert, waardoor de lus live wordt gesloten. Maar het nakijken raakt alleen de deterministische delen: de prompt heeft de juiste structuur, blokkeert injecties, kapt te grote tickets af, en de validator accepteert goede output terwijl hij slechte weigert. Gebruik is_suspicious en wrap_user_input uit de injectieleer, meegeleverd in de starter. Druk op Run om te nakijken.
Schrijf build_triage_prompt(ticket, budget=200): detecteer injectie (verdacht -> ticket body wordt [blocked input], payload afwezig), anders verkort naar budget tekens; stel een [system] regel samen, twee korte few-shot Ticket:/JSON: voorbeelden, het omheinde echte ticket en een afsluitende [assistant]. Het echte ticket gaat op een eigen regel beginnend met Ticket: , zoals de voorbeelden, met zijn body omheind door wrap_user_input (van de injectieleer). Schrijf parse_triage(model_json) dat json.loads in een try/except en valideert category in {billing,technical,account,general} en urgency in {low,medium,high}, waarbij {"ok", "errors"} wordt geretourneerd.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.