课程大纲 第 119 课,共 250 课 · 调用真正的 LLM
调用真正的 LLM

拼合词元流

当你流式接收响应时,模型以一连串小事件而不是一个大的数据块发送答案,这样你就能边生成边显示文本。SDK 给你一个干净的文本片段迭代器,但在底层它是在拼合一串有类型的事件:一个 message_start,然后是许多 content_block_delta 事件,每个都带着一小段 text_delta,前后有 content_block_stop 和 message_stop 标记。要重建完整的答案,你只保留文本增量并把它们拼接起来。

友好的真实版本看起来是这样的(仅作示意,我们不访问网络):

with client.messages.stream(model="claude-opus-5-5", max_tokens=1024,
                            messages=[{"role": "user", "content": "Hi"}]) as stream:
    for text in stream.text_stream:   # already just the text chunks
        print(text, end="", flush=True)
    final = stream.get_final_message()

那个 text_stream 只是图方便。在它下面,原始事件看起来像下面这个列表,而拼合它们正是这一课要练的技能。我们把流建模成一个事件字典的列表,这样它可以离线运行:

[
  {"type": "message_start"},
  {"type": "content_block_delta", "delta": {"type": "text_delta", "text": "He"}},
  {"type": "content_block_delta", "delta": {"type": "text_delta", "text": "llo"}},
  {"type": "content_block_stop"},
  {"type": "message_stop"}
]

你要构建 collect_stream(events)。遍历这个列表,按顺序把每一个内部 delta 的 type == "text_delta" 的 content_block_delta 事件中的 text 拼接起来。跳过其他所有事件:生命周期标记(message_start、content_block_stop、message_stop)不带文本,而非文本的增量(比如流式工具调用的 input_json_delta)也不是可见答案的一部分。空列表返回 ""。

把它构建成这样:两个不同的事件列表重建出两个不同的字符串,生命周期事件和非文本事件被跳过,而空流返回 ""。

轮到你了

写 collect_stream(events),其中 events 是一个流式事件字典的列表。按顺序把每一个 {"type": "content_block_delta", "delta": {"type": "text_delta", "text": ...}} 事件的 text 拼接起来。跳过其他所有事件(像 message_start/content_block_stop 这样的生命周期标记,以及非文本增量)。空流返回 ""。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。