Kurrikulum Leson 134 van 250 · Prompt Engineering vir KI-ingenieurs
Prompt Engineering vir KI-ingenieurs

Slotstuk: 'n Produksie-prompt-pipeline (Ticket-triase)

Dit is die finale: jy verbind die hele module in een production prompt pipeline vir ondersteuningskaart-triase. 'n Ru-kaart kom in; jy moet teen inspuiting verdedig, 'n token-begroting respekteer, 'n few-shot prompt saamstel, en dan die JSON wat die model teruggee valideer. Die model klassifiseer die kaart (daardie een stap is die LLM, en dit is die enigste deel wat nie gegradeer word nie). Alles rondom dit is die ingenieurswese wat jy besit.

Bou die prompt assembler. build_triage_prompt(ticket, budget=200):

  • Hardloop die kaartjie deur inspuitingsdetectie. As dit verdagtig is, word die kaartjie-inhoud [blocked input] en die rou payload kom nooit by die prompt nie.
  • Snoei andersins die kaart tot budget karakters af (kaarte kan baie groot wees; jy betaal per token).
  • stel 'n [system] instruksie saam, dan twee paar few-shot Ticket: ... / JSON: ... voorbeelde, dan die omsingelde regte kaartjie, en eindig op 'n trailerende [assistant] lyn.

Bou die uitvoervalideerder. parse_triage(model_json) json.loads die model se antwoord binne 'n try/except en kontroleer twee enums: category in {billing, technical, account, general} en urgency in {low, medium, high}. Gee {"ok": bool, "errors": [...]} terug.

parse_triage('{"category": "billing", "urgency": "high"}')   # ok True
parse_triage('{"category": "weather", "urgency": "high"}')   # ok False
parse_triage('not json at all')                              # ok False, no crash

As jy tutor aan is, kan 'n on-device model die JSON produseer wat parse_triage dan valideer en die lus regstreeks sluit. Maar gradering raak net die deterministiese dele aan: die prompt het die regte struktuur, blokke injections, verkort oorgroot tickets en die validator aanvaar goeie output terwyl dit slegte verwerp. Hergebruik is_suspicious en wrap_user_input van die injection les wat in die starter ingesluit is. Druk Run om te gradeer.

Jou beurt

Skryf build_triage_prompt(ticket, budget=200): detect injection (suspicious -> ticket body word [blocked input], payload absent), anders kort dit af tot budget karakters; stel 'n [system] lyn saam, twee few-shot Ticket:/JSON: voorbeelde, die omsingelde regte ticket, en 'n agterste [assistant]. Die regte ticket gaan op 'n lyn van sy eie wat begin met Ticket: , soos die voorbeelde, met sy body omsingel deur wrap_user_input (van die injection les). Skryf parse_triage(model_json) dat json.loads in 'n try/except en valideer category in {billing,technical,account,general} en urgency in {low,medium,high}, wat {"ok", "errors"} teruggee.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.