Программа курса Урок 119 из 250 · Вызов реальной LLM
Вызов реальной LLM

Свертывание потока токенов

Когда вы стримите ответ, модель отправляет ответ как серию маленьких событий вместо одной большой нагрузки, чтобы вы могли показывать текст по мере его печати. SDK дает вам чистый итератор текстовых чанков, но внутри он сворачивает поток событий печати: message_start, затем много событий content_block_delta, каждое из которых несет крошечный text_delta, с маркерами content_block_stop и message_stop вокруг них. Чтобы восстановить полный ответ, вы оставляете только текстовые дельты и объединяете их.

Дружелюбная реальная версия выглядит так (только для иллюстрации -> мы не вызываем сеть):

with client.messages.stream(model="claude-opus-5-5", max_tokens=1024,
                            messages=[{"role": "user", "content": "Hi"}]) as stream:
    for text in stream.text_stream:   # already just the text chunks
        print(text, end="", flush=True)
    final = stream.get_final_message()

Этот text_stream это удобство. Под ним сырые события выглядят как список ниже, а их сворачивание это именно тот навык, который тренирует этот урок. Мы моделируем поток как список словарей событий, чтобы он работал офлайн:

[
  {"type": "message_start"},
  {"type": "content_block_delta", "delta": {"type": "text_delta", "text": "He"}},
  {"type": "content_block_delta", "delta": {"type": "text_delta", "text": "llo"}},
  {"type": "content_block_stop"},
  {"type": "message_stop"}
]

Вы строите collect_stream(events). Пройдите по list и объедините по порядку text из каждого события, которое является content_block_delta, чей внутренний delta имеет type == "text_delta". Пропускайте каждое второе событие -> маркеры жизненного цикла (message_start, content_block_stop, message_stop) не содержат текста, и нетекстовая дельта (например, input_json_delta для потокового вызова инструмента) не является частью видимого ответа. Пустой list возвращает "".

Собери это так, чтобы два разных списка событий пересобирали две разные строки, жизненный цикл и события без текста пропускаются, а пустой поток возвращает "".

Твоя очередь

Напишите collect_stream(events), где events это список словарей событий потока. Соедините по порядку text каждого события {"type": "content_block_delta", "delta": {"type": "text_delta", "text": ...}}. Пропустите все остальные события (маркеры жизненного цикла типа message_start/content_block_stop и нетекстовые дельты). Верните "" для пустого потока.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.