Müfredat 250 dersinden 158. · Bir RAG Pipeline oluştur.
Bir RAG Pipeline oluştur.

Grounded Prompt'u Oluşturma

Retrieval doğru parçaları buldu; şimdi modele sadece onları kullanmasını ve başka hiçbir şey kullanmamasını söylemen gerekiyor. Bu, prompt-assembly adımıdır ve grounding işleminin zorunlu kılındığı yerdir. Grounded bir prompt üç iş yapar: getirilen bağlamı net bir şekilde sunar, modele sadece o bağlamdan cevap vermesini söyler ve modele, bir cevap uydurmak yerine bilmediğini kabul edebileceği bir çıkış yolu verir.

Parçaları numaralandırmak iki nedenden dolayı önemlidir: modelin iki pasajı birbirine karıştırmaması için onları görsel olarak ayırır ve daha sonra kaynakça istersen modelin "[2]" şeklinde atıfta bulunmasını sağlar. Kaçış hattı, geçen dersteki reddetme korumasının diğer yarısıdır: geri getirme işlemi iyi olsa bile, spesifik cevap metinde olmayabilir ve bilmediği durumlarda exactly ne söyleyeceği kendisine söylenen bir modelin halüsinasyon görme olasılığı çok daha düşüktür.

System: Answer the question using only the context below.
If the answer is not in the context, reply exactly: I don't know.

Context:
[1] Refunds are issued within five business days...
[2] Shipping takes 5 to 7 business days...

Question: how long do refunds take?
Assistant:

O sondaki Assistant: satırı açık dönüş noktasıdır: modelin yazmaya başladığı yer burasıdır. (Tarayıcında cihaz üzerindeki WebLLM bu tam diziyi alır ve cevabı üretir. Sadece oluşturduğun dizi üzerinden not alınıyor, asla modelin cevabı üzerinden değil, çünkü modelin cevabı senin aslında tasarladığın deterministik kısımdır.)

Ne yapacağın. build_rag_prompt(query, contexts) yaz, burada contexts bir parça dizisidir. Dönen prompt şunları içermeli:

  • Her bağlam parçasını, 1'den başlayarak sırasıyla [1] ..., [2] ... olarak numaralandır.
  • Sadece bağlamı kullanarak cevap vermek için tam talimatı içerir.
  • Tam olarak I don't know. (cevap yoksa modelin talimatı doğrultusunda vereceği yanıt) kaçış yolunu içermeli.
  • query metni içerir.
  • Açık uçlu bir cevap sırasıyla bitir (son boş olmayan satır Assistant: işaretidir).

İki getirilen parçadan bir istem oluşturup tekrar okumak için Run tuşuna bas.

Senin sıran

Grounded bir prompt stringi döndüren build_rag_prompt(query, contexts) yaz. Her bir context parçasını sırasıyla [1] ..., [2] ... olarak numaralandır, sadece contexti kullanarak cevap verme talimatını ekle, tam olarak I don't know. escape hatchini dahil et, queryi ekle ve açık bir Assistant: turni ile bitir.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.