Programma Lezione 175 di 250 · Costruire agenti (uso di strumenti e ReAct)
Costruire agenti (uso di strumenti e ReAct)

Memoria dell'agente e accumulo dello stato

Il ciclo ReAct che hai costruito soffre di amnesia: ogni passo chiama uno strumento e dimentica. Un vero agente deve portare avanti ciò che ha imparato, i fatti che ha cercato, i risultati restituiti dagli strumenti, così un passo successivo può usarli. Quel quaderno in corso è la memoria dell'agente (la si chiama anche blocco appunti, scratchpad, o contesto di lavoro). La possiede il tuo codice; il modello mai.

Ma il contesto non è gratis. Tutto ciò che sta in memoria viene rimesso nel prompt al passo successivo, e il modello ha una finestra di contesto fissa misurata in token. Lascia crescere la memoria all'infinito e prima o poi superi la finestra (e paghi ogni token, per giunta). Quindi la memoria ha bisogno di due metà: accumulare nuovi fatti man mano, e tagliare fino a un budget quando diventa troppo grande.

La forma

Lo stato è un solo dict: una nota system permanente (le istruzioni fisse dell'agente, che non butti mai via) e una lista di facts che ha raccolto:

state = {"system": "You are a research agent.", "facts": []}

Ogni osservazione diventa una riga di fatto. Dopo che uno strumento è stato eseguito aggiungi una registrazione leggibile di ciò che è successo:

state["facts"].append(f"{tool}({args}) -> {observation}")

Tagliare fino a un budget di token

I tokenizer veri sono appresi e lavorano per sottoparole; qui non possiamo farne girare uno, quindi stimiamo un token come una parola separata da spazi (len(text.split())), lo stesso trucco del modulo sugli LLM. (In produzione useresti il vero conteggio di sottoparole dal campo usage dell'API, o la regola pratica dei caratteri len(text) / 4; la stima sugli spazi tiene solo questo esercizio deterministico.) La regola del taglio ricalca ciò che fanno davvero gli agenti di produzione: tieni sempre la nota di sistema, poi tieni quanti più fatti recenti ci stanno in ciò che resta del budget. Vince la recenza perché gli ultimi risultati di solito sono quelli che servono al passo successivo.

budget = max_tokens - est_tokens(state["system"])
# walk facts newest-first, keep while they fit, then stop

Percorri i fatti dal più nuovo al più vecchio, aggiungendo il costo in token di ciascuno finché il fatto successivo non sforerebbe il budget, poi fermati. Rigira la lista così i fatti tenuti restano nel loro ordine originale. Se il budget è minuscolo puoi tenere zero fatti, ma la nota di sistema sopravvive sempre.

In un agente dal vivo il modello leggerebbe render(state) in cima a ogni passo e lo stesso ciclo accumula-poi-taglia girerebbe dopo ogni chiamata a uno strumento, così la finestra non trabocca mai. Il tutor sul dispositivo può guidare questo ciclo, ma la correzione esamina sempre e solo lo stato deterministico. Premi Run per accumulare una breve trascrizione e guardare i fatti più vecchi cadere sotto un budget stretto.

Tocca a te

Costruisci la memoria dell'agente. Scrivi new_state(system_note) -> {"system": note, "facts": []}; record(state, tool, args, observation) che aggiunge la riga di fatto "<tool>(<args>) -> <observation>" e restituisce lo stato; est_tokens(text) -> numero di token separati da spazi; e trim(state, max_tokens) che tiene la nota di sistema più i fatti più recenti i cui token (la nota di sistema conta nel budget) ci stanno in max_tokens. Poi scrivi accumulate(system_note, transcript, max_tokens): parti da uno stato nuovo, fai record di ogni passo (tool, args, observation) in ordine, fai trim una volta alla fine, e restituisci lo stato tagliato.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.