Silabus Pelajaran 119 dari 250 · Memanggil LLM Asli
Memanggil LLM Asli

Lipat Token Stream

Saat kamu melakukan streaming respons, model mengirim jawaban sebagai rangkaian kejadian kecil alih-alih satu payload besar, jadi kamu bisa menampilkan teks saat sedang diketik. SDK memberikan iterator potongan teks yang bersih, tapi di baliknya ia melipat aliran kejadian yang diketik: sebuah message_start, lalu banyak kejadian content_block_delta yang masing-masing membawa text_delta kecil, dengan penanda content_block_stop dan message_stop di sekitarnya. Untuk membangun kembali jawaban lengkap, kamu hanya menyimpan delta teks dan menggabungkannya.

Versi asli yang ramah terlihat seperti ini (hanya ilustrasi -> kita tidak memanggil network):

with client.messages.stream(model="claude-opus-5-5", max_tokens=1024,
                            messages=[{"role": "user", "content": "Hi"}]) as stream:
    for text in stream.text_stream:   # already just the text chunks
        print(text, end="", flush=True)
    final = stream.get_final_message()

text_stream itu hanya kemudahan. Di bawahnya, event mentah terlihat seperti daftar di bawah, dan melipatnya adalah keahlian yang dilatih di pelajaran ini. Kita memodelkan stream sebagai list dari dict event agar bisa berjalan offline:

[
  {"type": "message_start"},
  {"type": "content_block_delta", "delta": {"type": "text_delta", "text": "He"}},
  {"type": "content_block_delta", "delta": {"type": "text_delta", "text": "llo"}},
  {"type": "content_block_stop"},
  {"type": "message_stop"}
]

Kamu sedang membangun collect_stream(events). Telusuri list dan gabungkan, sesuai urutan, text dari setiap event yang merupakan content_block_delta yang delta dalamnya memiliki type == "text_delta". Lewati setiap event lainnya -> penanda siklus hidup (message_start, content_block_stop, message_stop) tidak membawa teks, dan delta non-teks (seperti input_json_delta untuk streamed tool call) bukan bagian dari jawaban yang terlihat. List kosong mengembalikan "".

Buat supaya dua daftar event yang berbeda membangun dua string yang berbeda, lifecycle dan non-text events dilewati, dan stream kosong mengembalikan "".

Giliranku

Tulis collect_stream(events) di mana events adalah list dict event streaming. Gabungkan, sesuai urutan, text dari setiap event {"type": "content_block_delta", "delta": {"type": "text_delta", "text": ...}}. Lewati semua event lainnya (marker lifecycle seperti message_start/content_block_stop, dan delta non-teks). Kembalikan "" untuk stream kosong.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.