Müfredat 250 dersinden 214. · Proje: Müşteri Desteği Copilotu
Proje: Müşteri Desteği Copilotu

Grounded Prompt'u Getir + Oluştur

Retrieval çalışıyor -- doğru makaleleri bulabilirsin. Şimdi RAG'i güvenli bir yalancı yerine güvenilir kılan hamle geliyor: grounding. Dil modeline getirilen metni veriyorsun ve ona sadece only o metinden cevap vermesini, cevap orada yoksa da bunu söylemesini söylüyorsun. Model ham belgelerini asla görmez; senin oluşturduğun promptu görür. Yani prompt is üründür. Bu ders o promptu oluşturur.

Burası halüsinasyonların kazanıldığı veya kaybedildiği yerdir. İade süresi uyduran bir destek botu işe yaramaz olmaktan daha kötüdür, bir risk teşkil eder. Çözüm üç parçalı disiplinli bir prompttur: modelin alıntı yapabileceği şekilde sınırlandırılmış ve numaralandırılmış retrieved chunks, kullanıcının sorusu ve bağlamın cevabı içermediği durumlar için açık bir escape hatch.

Bir fonksiyon yaz:

assemble_prompt(query, retrieved_chunks)  # -> the full prompt string

Sıralamayı takip etmelisin:

  • Asistanın sadece aşağıdaki bağlamı kullanarak cevap vereceği kuralı belirt.
  • Bu satırı tam olarak, karakter karakter ekle: If the answer is not in the context, reply exactly: I do not know.
  • Bir CONTEXT: bölümü aç, sonra her bir parçayı numaralandırılmış ve sınırlandırılmış şekilde listele, [1] ardından üçlü tırnak içindeki parça metni, sonra [2] ve bu şekilde devam et -- verilen sırayla.
  • Kullanıcının sorusunu bir QUESTION: satırına ekle.
  • Açık bir answer turnu ile bitir -- arkasından hiçbir şey gelmeyen son bir ANSWER: satırı, böylece model cevabı bir sonraki adımda yazar.

Numaralandırma önemli: modelin (ve bir sonraki dersin) bir iddianın hangi kaynaktan geldiğini belirtmesini sağlayan şey bu. Tam kaçış satırı da önemli. Aşağıdaki kod, bir reddi tespit etmek için tam olarak o belirteci arayacak, bu yüzden farklı bir ifade her şeyi bozar.

missing-context durumunu yönet: Eğer retrieved_chunks boşsa, yine de geçerli bir prompt (talimat, kaçış satırı, boş bağlam, soru ve açık cevap sırası) üretirsin. Model daha sonra sentinel ile doğru şekilde yanıt verecektir. Canlı LLM çağrısı bu egzersizin parçası değildir; sen modelin alacağı stringi oluşturuyorsun. Grounded bir prompt yazdırmak ve onu model gibi okumak için Run tuşuna bas.

Senin sıran

Tamamı grounded prompt dizisini döndüren assemble_prompt(query, retrieved_chunks) yaz. Sadece bağlamdan cevap verme talimatı, tam If the answer is not in the context, reply exactly: I do not know. satırı, her parçası [1], [2], ... şeklinde numaralandırılmış ve sırasıyla üçlü tırnak içine alınmış bir CONTEXT: bölümü, bir QUESTION: satırı ve son bir açık ANSWER: turnu içermeli. Boş bir parça listesi hala geçerli bir prompt üretir.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.