Grounded Prompt'u Oluşturma
Retrieval doğru parçaları buldu; şimdi modele sadece onları kullanmasını ve başka hiçbir şey kullanmamasını söylemen gerekiyor. Bu, prompt-assembly adımıdır ve grounding işleminin zorunlu kılındığı yerdir. Grounded bir prompt üç iş yapar: getirilen bağlamı net bir şekilde sunar, modele sadece o bağlamdan cevap vermesini söyler ve modele, bir cevap uydurmak yerine bilmediğini kabul edebileceği bir çıkış yolu verir.
Parçaları numaralandırmak iki nedenden dolayı önemlidir: modelin iki pasajı birbirine karıştırmaması için onları görsel olarak ayırır ve daha sonra kaynakça istersen modelin "[2]" şeklinde atıfta bulunmasını sağlar. Kaçış hattı, geçen dersteki reddetme korumasının diğer yarısıdır: geri getirme işlemi iyi olsa bile, spesifik cevap metinde olmayabilir ve bilmediği durumlarda exactly ne söyleyeceği kendisine söylenen bir modelin halüsinasyon görme olasılığı çok daha düşüktür.
System: Answer the question using only the context below.
If the answer is not in the context, reply exactly: I don't know.
Context:
[1] Refunds are issued within five business days...
[2] Shipping takes 5 to 7 business days...
Question: how long do refunds take?
Assistant:O sondaki Assistant: satırı açık dönüş noktasıdır: modelin yazmaya başladığı yer burasıdır. (Tarayıcında cihaz üzerindeki WebLLM bu tam diziyi alır ve cevabı üretir. Sadece oluşturduğun dizi üzerinden not alınıyor, asla modelin cevabı üzerinden değil, çünkü modelin cevabı senin aslında tasarladığın deterministik kısımdır.)
Ne yapacağın. build_rag_prompt(query, contexts) yaz, burada contexts bir parça dizisidir. Dönen prompt şunları içermeli:
- Her bağlam parçasını, 1'den başlayarak sırasıyla
[1] ...,[2] ...olarak numaralandır. - Sadece bağlamı kullanarak cevap vermek için tam talimatı içerir.
- Tam olarak
I don't know.(cevap yoksa modelin talimatı doğrultusunda vereceği yanıt) kaçış yolunu içermeli. querymetni içerir.- Açık uçlu bir cevap sırasıyla bitir (son boş olmayan satır
Assistant:işaretidir).
İki getirilen parçadan bir istem oluşturup tekrar okumak için Run tuşuna bas.
Grounded bir prompt stringi döndüren build_rag_prompt(query, contexts) yaz. Her bir context parçasını sırasıyla [1] ..., [2] ... olarak numaralandır, sadece contexti kullanarak cevap verme talimatını ekle, tam olarak I don't know. escape hatchini dahil et, queryi ekle ve açık bir Assistant: turni ile bitir.
Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor
Bu alıştırma yakında açılacak
Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.
Bu tarayıcı learn.floati.life için çerezleri engelliyor, bu yüzden burada bitirdiğin dersler sırasıyla açılamıyor. Bu site için çerezlere izin ver ve sayfayı yenile.