Memori Agen & Akumulasi State
Loop ReAct yang kamu buat punya amnesia: setiap langkah memanggil tool dan langsung lupa. Agent asli harus membawa apa yang dipelajarinya ke depan - fakta yang dicari, hasil yang dikembalikan tool - supaya langkah berikutnya bisa menggunakannya. Notebook yang berjalan itu adalah memori agent (orang juga menyebutnya scratchpad atau working context). Kode kamu yang memilikinya; model tidak pernah.
Tapi konteks itu tidak gratis. Semua yang ada di memori dimasukkan kembali ke dalam prompt pada langkah berikutnya, dan model punya context window yang tetap diukur dalam tokens. Biarkan memori tumbuh terus dan kamu akhirnya akan meluap dari jendela tersebut (dan membayar untuk setiap token selain itu). Jadi memori butuh dua bagian: accumulate fakta baru saat kamu berjalan, dan trim kembali ke anggaran saat ukurannya terlalu besar.
Bentuknya
State adalah satu dict: sebuah catatan system permanen (instruksi tetap agen yang tidak pernah kamu buang) dan daftar facts yang telah dikumpulkannya:
state = {"system": "You are a research agent.", "facts": []}Setiap observasi menjadi satu baris fakta. Setelah sebuah tool berjalan, kamu menambahkan catatan yang bisa dibaca tentang apa yang terjadi:
state["facts"].append(f"{tool}({args}) -> {observation}")Memotong ke anggaran token
Tokenizer asli itu dipelajari dan berbasis subword; kita tidak bisa menjalankan satu di sini, jadi kita menganggap satu token sebagai satu kata dengan spasi (len(text.split())) - trik yang sama dengan modul LLM. (Di produksi kamu akan menggunakan hitungan subword asli dari kolom usage API, atau aturan praktis karakter len(text) / 4; estimasi spasi ini hanya untuk menjaga latihan ini tetap deterministik.) Aturan trim mencerminkan apa yang sebenarnya dilakukan agen produksi: selalu simpan catatan sistem, lalu simpan sebanyak mungkin fakta terbaru yang muat di sisa anggaran. Kebaruan menang karena hasil terbaru biasanya adalah yang dibutuhkan oleh langkah berikutnya.
budget = max_tokens - est_tokens(state["system"])
# walk facts newest-first, keep while they fit, then stopUrutkan fakta dari yang terbaru ke yang terlama, tambahkan biaya token setiap fakta sampai fakta berikutnya melebihi anggaran, lalu berhenti. Balikkan urutannya agar fakta yang disimpan tetap pada urutan aslinya. Jika anggaran sangat kecil kamu mungkin tidak menyimpan fakta sama sekali, tapi catatan sistem selalu bertahan.
Dalam agen live, model akan membaca render(state) di setiap awal langkah dan siklus accumulate-then-trim yang sama akan berjalan setelah setiap tool call, jadi window tidak akan pernah overflow. Tutor di perangkat bisa menjalankan loop ini, tapi grading hanya memeriksa deterministic state. Tekan Run untuk mengumpulkan transcript pendek dan lihat fakta terlama hilang karena budget yang ketat.
Bangun memori agen. Tulis new_state(system_note) -> {"system": note, "facts": []}; record(state, tool, args, observation) yang menambahkan baris fakta "<tool>(<args>) -> <observation>" dan mengembalikan state; est_tokens(text) -> jumlah token spasi; dan trim(state, max_tokens) yang menyimpan catatan sistem ditambah fakta terbaru yang tokennya (catatan sistem dihitung dalam anggaran) muat di max_tokens. Lalu tulis accumulate(system_note, transcript, max_tokens): mulai state baru, record setiap (tool, args, observation) langkah secara berurutan, trim sekali di akhir, dan kembalikan state yang sudah dipangkas.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.