Temario Lección 119 de 250 · Llamar a un LLM de verdad
Llamar a un LLM de verdad

Juntar un flujo de tokens

Cuando recibes una respuesta en streaming, el modelo envía la respuesta como una serie de eventos pequeños en lugar de un gran bloque, para que puedas mostrar el texto mientras se escribe. El SDK te da un iterador limpio de trozos de texto, pero por debajo va juntando un flujo de eventos con tipo: un message_start, luego muchos eventos content_block_delta, cada uno con un diminuto text_delta, con marcadores content_block_stop y message_stop alrededor. Para reconstruir la respuesta completa te quedas solo con los deltas de texto y los concatenas.

La versión real amable es así (solo como ilustración -> no llamamos a la red):

with client.messages.stream(model="claude-opus-5-5", max_tokens=1024,
                            messages=[{"role": "user", "content": "Hi"}]) as stream:
    for text in stream.text_stream:   # already just the text chunks
        print(text, end="", flush=True)
    final = stream.get_final_message()

Ese text_stream es una comodidad. Por debajo, los eventos en bruto son como la lista de abajo, y juntarlos es justo la habilidad que entrena esta lección. Modelamos el flujo como una lista de diccionarios de eventos para que funcione sin conexión:

[
  {"type": "message_start"},
  {"type": "content_block_delta", "delta": {"type": "text_delta", "text": "He"}},
  {"type": "content_block_delta", "delta": {"type": "text_delta", "text": "llo"}},
  {"type": "content_block_stop"},
  {"type": "message_stop"}
]

Vas a construir collect_stream(events). Recorre la lista y concatena, en orden, el text de cada evento que sea un content_block_delta cuyo delta interior tenga type == "text_delta". Sáltate todos los demás eventos -> los marcadores del ciclo de vida (message_start, content_block_stop, message_stop) no llevan texto, y un delta que no es de texto (como un input_json_delta de una llamada a herramienta en streaming) no forma parte de la respuesta visible. Una lista vacía devuelve "".

Constrúyelo de forma que dos listas de eventos distintas reconstruyan dos cadenas distintas, se salten los eventos del ciclo de vida y los que no son de texto, y un flujo vacío devuelva "".

Tu turno

Escribe collect_stream(events), donde events es una lista de diccionarios de eventos de streaming. Concatena, en orden, el text de cada evento {"type": "content_block_delta", "delta": {"type": "text_delta", "text": ...}}. Sáltate todos los demás eventos (los marcadores del ciclo de vida como message_start/content_block_stop, y los deltas que no son de texto). Devuelve "" con un flujo vacío.

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.