Silabus Pelajaran 214 dari 250 · Proyek: Customer Support Copilot
Proyek: Customer Support Copilot

Ambil + Bangun Grounded Prompt

Retrieval bekerja -- kamu bisa menemukan artikel yang tepat. Sekarang saatnya langkah yang membuat RAG bisa dipercaya dan bukan pembohong yang percaya diri: grounding. Kamu memberikan teks yang diambil ke model bahasa dan menginstruksikannya untuk menjawab only dari teks tersebut, dan untuk mengatakannya jika jawabannya tidak ada di sana. Model tidak pernah melihat dokumen mentahmu; ia melihat prompt yang kamu susun. Jadi prompt is adalah produknya. Pelajaran ini membangun prompt tersebut.

Di sinilah halusinasi dimenangkan atau kalah. Bot pendukung yang mengarang jendela pengembalian dana lebih buruk daripada tidak berguna, itu adalah beban. Solusinya adalah prompt yang disiplin dengan tiga bagian: potongan yang diambil dibatasi dan diberi nomor agar model bisa mengutipnya, pertanyaan pengguna, dan escape hatch yang eksplisit untuk saat konteks tidak berisi jawaban.

Tulis satu function:

assemble_prompt(query, retrieved_chunks)  # -> the full prompt string

Harus, secara berurutan:

  • Nyatakan aturan bahwa asisten menjawab hanya menggunakan konteks di bawah ini.
  • Masukkan baris ini persis, karakter demi karakter: If the answer is not in the context, reply exactly: I do not know.
  • Buka bagian CONTEXT:, lalu daftar setiap potongan dengan nomor dan pembatas, seperti [1] diikuti teks potongan di antara tanda kutip tiga, lalu [2], dan seterusnya -- sesuai urutan yang diberikan.
  • Tambahkan pertanyaan pengguna di baris QUESTION:.
  • Akhiri pada giliran jawaban yang terbuka -- sebuah baris ANSWER: terakhir tanpa apa pun setelahnya, jadi model menulis jawabannya berikutnya.

Penomoran itu penting: ini yang membuat model (dan pelajaran berikutnya) bisa mengutip yang sumber klaim tersebut. Baris escape yang tepat juga penting -- kode selanjutnya akan mencari sentinel presisi itu untuk mendeteksi penolakan, jadi parafrase akan merusak semuanya.

Tangani kasus missing-context: jika retrieved_chunks kosong, kamu tetap menghasilkan prompt yang valid (instruction, escape line, context kosong, question, dan open answer turn) -- model kemudian akan menjawab dengan benar menggunakan sentinel. Pemanggilan LLM secara langsung bukan bagian dari latihan ini; kamu sedang membangun string yang akan diterima model. Tekan Run untuk mencetak prompt yang tergrounding dan membacanya seperti yang dilakukan model.

Giliranku

Tulis assemble_prompt(query, retrieved_chunks) yang mengembalikan string prompt grounded lengkap: instruksi untuk menjawab hanya dari konteks, baris If the answer is not in the context, reply exactly: I do not know. yang tepat, bagian CONTEXT: dengan setiap chunk bernomor [1], [2], ... dan dikurung dalam triple quotes secara berurutan, baris QUESTION:, dan turn ANSWER: terbuka terakhir. Daftar chunk kosong tetap menghasilkan prompt yang valid.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.