Silabus Pelajaran 134 dari 250 · Prompt Engineering untuk AI Engineers
Prompt Engineering untuk AI Engineers

Capstone: Pipeline Prompt Produksi (Triase Tiket)

Ini adalah bagian akhir: kamu menghubungkan seluruh modul ke dalam satu production prompt pipeline untuk triase tiket bantuan. Sebuah tiket mentah masuk; kamu harus menangkal injection, mematuhi anggaran token, menyusun prompt few-shot, dan kemudian memvalidasi JSON apa pun yang dikembalikan model. Model mengklasifikasikan tiket (satu langkah itu adalah LLM, dan itu adalah satu-satunya bagian yang tidak dinilai). Segala sesuatu di sekitarnya adalah teknik yang menjadi tanggung jawabmu.

Bangun assembler prompt. build_triage_prompt(ticket, budget=200):

  • Menjalankan tiket melalui deteksi injeksi. Jika mencurigakan, isi tiket menjadi [blocked input] dan raw payload tidak akan pernah masuk ke prompt.
  • Jika tidak, tiket akan dipotong menjadi budget karakter (tiket bisa sangat besar; kamu membayar per token).
  • Menyusun instruksi [system], lalu dua contoh few-shot Ticket: ... / JSON: ..., lalu tiket asli yang dibatasi, diakhiri dengan baris [assistant].

Buat validator output. parse_triage(model_json) json.loads balasan model di dalam try/except dan cek dua enum: category di {billing, technical, account, general} dan urgency di {low, medium, high}. Kembalikan {"ok": bool, "errors": [...]}.

parse_triage('{"category": "billing", "urgency": "high"}')   # ok True
parse_triage('{"category": "weather", "urgency": "high"}')   # ok False
parse_triage('not json at all')                              # ok False, no crash

Kalau tutor kamu aktif, model on-device bisa menghasilkan JSON yang parse_triage lalu divalidasi, menutup siklus secara langsung. Tapi penilaian hanya menyentuh bagian deterministik: prompt punya struktur yang benar, memblokir injeksi, memotong tiket yang terlalu besar, dan validator menerima output yang bagus sambil menolak yang buruk. Gunakan kembali is_suspicious dan wrap_user_input dari pelajaran injeksi, yang sudah ada di starter. Tekan Run untuk menilai.

Giliranku

Tulis build_triage_prompt(ticket, budget=200): deteksi injeksi (mencurigakan -> isi tiket jadi [blocked input], payload tidak ada), jika tidak potong jadi budget karakter; susun baris [system], dua contoh few-shot Ticket:/JSON:, tiket asli yang di-fence, dan [assistant] di akhir. Tiket asli ada di baris sendiri mulai Ticket: , seperti contoh, dengan isinya di-fence oleh wrap_user_input (dari pelajaran injeksi). Tulis parse_triage(model_json) bahwa json.loads dalam try/except dan validasi category di {billing,technical,account,general} dan urgency di {low,medium,high}, mengembalikan {"ok", "errors"}.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.