Müfredat 250 dersinden 198. · LLM'in Etrafındaki ML
LLM'in Etrafındaki ML

Güven Eşiği ve Çekinme

A sınıflandırıcı her zaman bir cevap döndürür, hiçbir fikri olmasa bile. Softmax toplamı 1 etmelidir, bu yüzden gerçekten kafası karışık bir model hala sana en üstteki etiketi verir -> sadece arkasında düşük bir olasılıkla. Üretimde bu tehlikelidir: bir müşteriyi sessizce yanlış yönlendirmek, emin olmadığınızı kabul etmekten daha kötüdür.

Çözüm, bir confidence threshold ve bir abstain seçeneği içeriyor. En üstteki etiketin olasılığına bakarsın; eğer barı geçerse ona göre işlem yaparsın, geçmezse isteği bir insana devreden (veya daha pahalı bir modele aktaran) özel bir "abstain" verdict döndürürsün. Bu, her ciddi LLM sisteminin sahip olduğu insan devret kapısıdır.

probs  = [0.80, 0.12, 0.08]      # model is confident
labels = ["billing", "technical", "account"]
# top prob 0.80 >= 0.6 -> return "billing"

probs  = [0.40, 0.35, 0.25]      # model is unsure
# top prob 0.40 <  0.6 -> return "abstain"

Eşik değer, veriden ayarladığın bir kadran gibidir: onu yükseltirsen daha sık çekinirsin (daha güvenli, daha insani çalışma); düşürürsen daha sık harekete geçersin (daha ucuz, daha riskli). Sınırın kendisi önemlidir -> tam olarak eşik değerine eşit olan bir olasılığın güvenilir sayılıp sayılmayacağına karar ver. Burada >= threshold güvenilir demek (sınır değeri geçer) kullanıyoruz.

Olasılıklar nereden geliyor? Genellikle model.predict_proba(...) daha önce oluşturduğun classifier'dan veya bir dağılıma normalize edilmiş per-prototype cosine skorlarından geliyor. Her iki durumda da gating mantığı aynı küçük fonksiyondur ve saf ve deterministiktir -> tam olarak birim testi yapabileceğin türden bir koruma mekanizmasıdır.

Bir fonksiyon oluştur. classify_with_threshold(probs, labels, threshold): en yüksek olasılığa sahip etiketi bul; eğer o olasılık >= threshold ise etiketi döndür, aksi takdirde "abstain" dizisini döndür. probs ve labels hizalı listelerdir. Bir güvenli durumun geçişini ve emin olunmayan bir durumun çekinmesini görmek için Run tuşuna bas.

Senin sıran

probs ve labels hizalı listeler olduğunda classify_with_threshold(probs, labels, threshold) yaz. Olasılığı en yüksek olan etiketi döndür, ancak bu olasılık sadece >= threshold ise; aksi takdirde "abstain" dizisini döndür. Eşiğe tam eşit olan bir olasılığı güvenilir olarak kabul et.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.