Capstone: Eine Produktions-Prompt-Pipeline (Ticket-Triage)
Dies ist das Finale: Du verbindest das ganze Modul in eine production prompt pipeline für die Triage von Support-Tickets. Ein rohes Ticket kommt an; du musst dich gegen Injections schützen, ein Token Budget respektieren, einen few-shot prompt zusammenstellen und dann das JSON validieren, das das Modell zurückgibt. Das Modell klassifiziert das Ticket (dieser eine Schritt ist das LLM und es ist der einzige nicht bewertete Teil). Alles drumherum ist das Engineering, das du verantwortest.
Baue den Prompt-Assembler. build_triage_prompt(ticket, budget=200):
- Lässt das Ticket durch die Injektionserkennung laufen. Wenn es verdächtig ist, wird der Ticketkörper zu
[blocked input]und die rohe Payload gelangt niemals in den Prompt. - Anderehin wird das Ticket auf
budgetZeichen gekürzt (Tickets können riesig sein; du zahlst pro Token). - setzt eine
[system]Anweisung zusammen, dann zwei wenige Beispiele vonTicket: ... / JSON: ..., dann das eingezäunte echte Ticket, endend auf einer abschließenden[assistant]Zeile.
Baue den Output-Validator. parse_triage(model_json) json.loads die Antwort des Modells innerhalb eines try/except und prüft zwei Enums: category in {billing, technical, account, general} und urgency in {low, medium, high}. Gib {"ok": bool, "errors": [...]} zurück.
parse_triage('{"category": "billing", "urgency": "high"}') # ok True
parse_triage('{"category": "weather", "urgency": "high"}') # ok False
parse_triage('not json at all') # ok False, no crashWenn dein Tutor an ist, kann ein On-Device-Modell das JSON erzeugen, das parse_triage dann validiert und die Schleife live schließt. Aber die Bewertung betrifft nur die deterministischen Teile: der prompt hat die richtige Struktur, blockiert Injections, kürzt zu große tickets und der validator akzeptiert guten output und lehnt schlechten ab. Nutze is_suspicious und wrap_user_input aus der Injection-Lektion, die im starter enthalten sind. Drücke Run zum Bewerten.
Schreibe build_triage_prompt(ticket, budget=200): detect injection (suspicious -> ticket body wird zu [blocked input], payload absent), sonst kürze auf budget Zeichen; setze eine [system] Zeile zusammen, zwei wenige Few-Shot Ticket:/JSON: Beispiele, das eingezäunte echte Ticket und ein abschließendes [assistant]. Das echte Ticket kommt in einer eigenen Zeile beginnend mit Ticket: , wie die Beispiele, mit seinem Body eingezäunt durch wrap_user_input (aus der Injection Lektion). Schreibe parse_triage(model_json) dass json.loads in einem try/except und validiert category in {billing,technical,account,general} und urgency in {low,medium,high}, wobei {"ok", "errors"} zurückgegeben wird.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.