Müfredat 250 dersinden 175. · Ajan Oluşturma (Araç Kullanımı ve ReAct)
Ajan Oluşturma (Araç Kullanımı ve ReAct)

Ajan Belleği ve Durum Birikimi

Kurduğun ReAct döngüsünün hafıza kaybı var: her adım bir tool çağırıyor ve unutuyor. Gerçek bir agent, öğrendiklerini ileriye taşımalı - baktığı gerçekleri, toollerin döndürdüğü sonuçları - böylece sonraki bir adım bunları kullanabilir. Çalışan notebook, agentin memory kısmıdır (insanlar buna scratchpad veya çalışma bağlamı da der). Kodun buna sahip; modelin asla.

Ama bağlam bedava değil. Bellekteki her şey bir sonraki adımda tekrar prompt içine doldurulur ve modelin sabit bir context window vardır, bu da tokens ile ölçülür. Bellek sonsuza kadar büyürse sonunda pencereyi aşarsın (ve bunun dışında her token için ödeme yaparsın). Bu yüzden bellek iki parçaya ihtiyaç duyar: accumulate ilerledikçe yeni gerçekleri ve trim çok büyüdüğünde bir bütçeye geri çek.

Onun şekli

State bir sözlüktür: kalıcı bir system notu (asla atmadığın ajanın sabit talimatları) ve topladığı facts listesi:

state = {"system": "You are a research agent.", "facts": []}

Her gözlem bir gerçeklik satırı olur. Bir araç çalıştıktan sonra ne olduğunu okunabilir bir kayıt olarak eklersin:

state["facts"].append(f"{tool}({args}) -> {observation}")

Token bütçesine göre kırpma

Gerçek tokenizerlar öğrenilir ve alt kelime tabanlıdır; burada birini çalıştıramayız, bu yüzden bir tokenı bir boşluklu kelime olarak tahmin ediyoruz (len(text.split())) - LLM modülüyle aynı numara. (Üretimde API'nin usage alanındaki gerçek alt kelime sayısını veya len(text) / 4 karakter kuralını kullanırsın; boşluk tahmini bu egzersizi sadece deterministik tutar.) Trim kuralı üretim ajanlarının aslında yaptığı şeyi yansıtır: her zaman sistem notunu tut, sonra bütçenin kalan kısmına sığan kadar en yeni bilgiyi tut. Güncellik kazanır çünkü en son sonuçlar genellikle bir sonraki adımın ihtiyaç duydukları sonuçlardır.

budget = max_tokens - est_tokens(state["system"])
# walk facts newest-first, keep while they fit, then stop

Gerçekleri en yeniden en eskiye doğru tara, her birinin token maliyetini ekle, bir sonraki gerçek bütçeyi aşana kadar devam et ve sonra dur. Tutulan gerçeklerin orijinal sırasında kalması için işlemi tersine çevir. Bütçe çok küçükse sıfır gerçek tutabilirsin ama sistem notu her zaman kalır.

Canlı bir ajan model her adımın başında render(state) okur ve her tool call sonrası aynı accumulate-then-trim döngüsü çalışır, böylece pencere asla taşmaz. On-device tutor bu döngüyü yönetebilir, ancak grading sadece deterministik durumu inceler. Kısa bir transcript biriktirmek ve dar bir bütçe altında en eski bilgilerin düşüp gittiğini izlemek için Run tuşuna bas.

Senin sıran

Ajanın belleğini oluştur. new_state(system_note) -> {"system": note, "facts": []}; "<tool>(<args>) -> <observation>" bilgi satırını ekleyen ve durumu döndüren record(state, tool, args, observation); est_tokens(text) -> boşluk belirteci sayısı; ve sistem notu ile belirteçleri max_tokens içine sığan en güncel bilgileri tutan trim(state, max_tokens) yaz. Sonra accumulate(system_note, transcript, max_tokens) yaz: yeni bir durum başlat, her (tool, args, observation) adımda sırayla record, sonunda bir kez trim ve kırpılmış durumu döndür.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.