Müfredat 250 dersinden 133. · Yapay Zeka Mühendisleri için Prompt Mühendisliği
Yapay Zeka Mühendisleri için Prompt Mühendisliği

Sınırlandırıcılar, Temellendirme ve Halüsinasyon Karşıtı

Bir modelin uydurmasını durdurmanın en etkili yolu grounding: ona kaynak materyali ver, net ayraçlarla sınırla ve cevabı only o materyalden vermesini, cevap orada olmadığında ise açık bir çıkış yolu kullanmasını söyle. Bu her retrieval-augmented sistemin özüdür ve tamamen prompt construction işidir.

grounded_prompt(question, context_chunks) oluştur:

  • A CONTEXT: bölümü her parça numaralandırılmış ve [1] ..., [2] ....
  • gibi sınırlandırılmış.
  • Bağlamdan sonraki soru.
  • Sadece bağlamdan cevap vermek için kesin bir talimat, şu kaçış yoluyla bitiyor: eğer cevap bağlamda yoksa, tam olarak şunu yanıtla I don't know.
  • modelin cevap vereceğini bilmesi için son açık cevap sırası.

Sonra kontrolcüyü oluştur. check_grounded(answer, context_chunks), cevap temellendiğinde True döndürür: cevap tam olarak I don't know. işaretçisidir VEYA cevaptaki her önemli kelime birleştirilmiş bağlamda görünür. Cevap bağlamda hiç bahsedilmeyen uydurma kelimeler içerdiğinde False döndürür.

ctx = ["The capital of France is Paris."]
check_grounded("The capital is Paris.", ctx)            # True
check_grounded("I don't know.", ctx)                    # True (honest)
check_grounded("The capital is Berlin.", ctx)           # False (invented)

Önemli kelimeleri kontrol ederken küçük durdurucu kelimeleri (the, is, a, of...) görmezden gel, böylece normal ifadeler cezalandırılmasın, ancak bağlamda hiç görünmeyen Berlin gibi bir içerik kelimesi kontrolü doğru şekilde geçemesin. Not vermek için Run tuşuna bas.

Bunu neyi yakaladığı konusunda dürüst ol: containment flags invented tokenları (bağlamda hiç geçmeyen kelimeler) yakalar, ancak gerçek bağlam kelimelerinden yeniden birleştirilmiş yanlış bir iddiayı yakalayamaz. "Refunds take France business days" ifadesi anlamsız olsa bile burada geçer çünkü her kelime bağlamda var. Gerçek sadakat kontrolü, sadece kelime üyeliğine değil, anlama göre akıl yürüten bir LLM-judge veya NLI (entailment) modeli gerektirir.

Senin sıran

CONTEXT: altındaki parçaları numaralandıran ve çitleyen grounded_prompt(question, context_chunks) yaz, soruyu ekle, sadece bağlamdan bir cevap talep et ve tam olarak I don't know. kaçış yolunu kullan, açık cevap sırasıyla bitir. Kesin düzen, "\n" ile birleştirilmiş satırlar: CONTEXT:, sonra her parça için [1] chunk text, [2] ... şeklinde bir satır, bir boş satır, Question: ..., talimat satırı (I don't know. içermelidir) ve son olarak açık cevap sırası [assistant]. Sentinel için True, aksi takdirde False döndüren check_grounded(answer, context_chunks) yaz; her önemli (duraklama kelimesi olmayan) cevap kelimesi birleştirilmiş bağlamda olduğunda True döndür.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.