Gộp một Token Stream
Khi bạn stream một phản hồi, mô hình gửi câu trả lời dưới dạng một chuỗi các sự kiện nhỏ thay vì một payload lớn, để bạn có thể hiển thị văn bản ngay khi nó đang được gõ. SDK cung cấp cho bạn một iterator sạch của các text chunks, nhưng bên dưới nó đang gộp một luồng các typed events: một message_start, sau đó là nhiều sự kiện content_block_delta mỗi sự kiện mang theo một text_delta nhỏ, với các dấu hiệu content_block_stop và message_stop xung quanh chúng. Để xây dựng lại câu trả lời đầy đủ, bạn chỉ giữ lại các text deltas và nối chúng lại với nhau.
Phiên bản thực tế thân thiện trông như thế này (chỉ mang tính minh họa -> chúng ta không gọi mạng):
with client.messages.stream(model="claude-opus-5-5", max_tokens=1024,
messages=[{"role": "user", "content": "Hi"}]) as stream:
for text in stream.text_stream: # already just the text chunks
print(text, end="", flush=True)
final = stream.get_final_message()Cái text_stream là một sự tiện lợi. Bên dưới nó, các sự kiện thô trông giống như danh sách dưới đây, và việc gộp chúng lại chính là kỹ năng mà bài học này luyện tập. Chúng ta mô hình hóa luồng dữ liệu thành một danh sách các dict sự kiện để nó chạy offline:
[
{"type": "message_start"},
{"type": "content_block_delta", "delta": {"type": "text_delta", "text": "He"}},
{"type": "content_block_delta", "delta": {"type": "text_delta", "text": "llo"}},
{"type": "content_block_stop"},
{"type": "message_stop"}
]Bạn đang xây dựng collect_stream(events). Duyệt qua danh sách và nối lại theo thứ tự các text từ mỗi sự kiện là một content_block_delta có delta bên trong chứa type == "text_delta". Bỏ qua mỗi sự kiện xen kẽ -> các dấu mốc vòng đời (message_start, content_block_stop, message_stop) không chứa văn bản, và một delta không phải văn bản (như một input_json_delta cho một streamed tool call) không nằm trong câu trả lời hiển thị. Một danh sách trống trả về "".
Xây dựng sao cho hai danh sách sự kiện khác nhau tạo lại hai chuỗi khác nhau, các sự kiện lifecycle và non-text bị bỏ qua, và một stream trống trả về "".
Viết collect_stream(events) nơi events là một danh sách các dict của streaming event. Nối lại theo thứ tự text của mỗi {"type": "content_block_delta", "delta": {"type": "text_delta", "text": ...}} event. Bỏ qua tất cả các event khác (các lifecycle markers như message_start/content_block_stop, và các non-text deltas). Trả về "" cho một stream trống.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.