Menyusun Grounded Prompt
Retrieval menemukan potongan yang tepat; sekarang kamu harus memberitahu model untuk menggunakan itu dan bukan yang lain. Ini adalah langkah penyusunan prompt, dan di sinilah grounding diterapkan. Prompt yang grounded melakukan tiga tugas: ia menyajikan konteks yang diambil dengan jelas, ia menginstruksikan model untuk menjawab hanya dari konteks tersebut, dan ia memberi model jalan keluar agar ia bisa mengakui ketidaktahuan alih-alih mengarang jawaban.
Memberi nomor pada potongan teks itu penting karena dua alasan: ini memisahkan mereka secara visual supaya model tidak mencampur dua bagian, dan ini memungkinkan model untuk mengutip "[2]" jika kamu nanti meminta kutipan. Baris escape-hatch adalah bagian lain dari guardrail penolakan dari pelajaran terakhir: bahkan saat retrieval sudah bagus, jawaban spesifik mungkin tidak ada di dalam teks, dan model yang diberi tahu exactly apa yang harus dikatakan saat ia tidak tahu jauh lebih kecil kemungkinannya untuk berhalusinasi.
System: Answer the question using only the context below.
If the answer is not in the context, reply exactly: I don't know.
Context:
[1] Refunds are issued within five business days...
[2] Shipping takes 5 to 7 business days...
Question: how long do refunds take?
Assistant:Baris Assistant: terakhir itu adalah turn terbuka: di situlah model mulai menulis. (Di browser kamu, WebLLM di perangkat akan mengambil string yang persis sama ini dan menghasilkan jawabannya. Kamu hanya dinilai dari string yang kamu susun, bukan dari balasan model, yang merupakan bagian deterministik yang sebenarnya kamu rancang.)
Apa yang mau dibangun. Tulis build_rag_prompt(query, contexts) di mana contexts adalah daftar string chunk. Prompt yang dikembalikan harus:
- Simpan setiap potongan konteks, diberi nomor mulai dari 1 sebagai
[1] ...,[2] ...secara berurutan. - Berikan instruksi tepat untuk menjawab hanya menggunakan konteks.
- Sertakan escape hatch
I don't know.yang tepat (jawaban yang diinstruksikan model saat jawaban tidak ada). - Berisi teks
query. - Berakhir pada giliran jawaban terbuka (baris terakhir yang tidak kosong adalah penanda
Assistant:).
Tekan Run untuk menyusun prompt dari dua chunk yang diambil dan membacanya kembali.
Tulis build_rag_prompt(query, contexts) yang mengembalikan string prompt yang terikat. Kamu harus memberi nomor setiap potongan konteks sebagai [1] ..., [2] ... secara berurutan, menyertakan instruksi untuk menjawab hanya menggunakan konteks, menyertakan escape hatch I don't know. yang tepat, menyertakan query, dan diakhiri dengan turn Assistant: yang terbuka.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.