シラバス レッスン 250 中 119 · 本物の LLM を呼ぶ
本物の LLM を呼ぶ

トークンのストリームを組み立て直す

レスポンスをストリーミングすると、モデルは答えを 1 つの大きなペイロードではなく小さなイベントの連なりとして送るので、入力されるそばからテキストを見せられます。SDK はテキストのかけらのきれいなイテレーターを渡してくれますが、その下では型付きのイベントのストリームを組み立て直しています:message_start、次にそれぞれ小さな text_delta を運ぶたくさんの content_block_delta イベント、そしてそのまわりの content_block_stop と message_stop の目印です。答え全体を組み立て直すには、テキストの差分だけを残してつなげます。

親しみやすい本物の版はこうです(説明用のみ -> ネットワークは呼びません):

with client.messages.stream(model="claude-opus-5-5", max_tokens=1024,
                            messages=[{"role": "user", "content": "Hi"}]) as stream:
    for text in stream.text_stream:   # already just the text chunks
        print(text, end="", flush=True)
    final = stream.get_final_message()

その text_stream は便利な道具です。その下では、生のイベントは下のリストのような形をしていて、それを組み立て直すことこそ、このレッスンで鍛える技能です。オフラインで動くように、ストリームをイベントの辞書のリストとしてモデル化します:

[
  {"type": "message_start"},
  {"type": "content_block_delta", "delta": {"type": "text_delta", "text": "He"}},
  {"type": "content_block_delta", "delta": {"type": "text_delta", "text": "llo"}},
  {"type": "content_block_stop"},
  {"type": "message_stop"}
]

作るのは collect_stream(events) です。リストをたどり、content_block_delta であって、内側の delta が type == "text_delta" を持つすべてのイベントの text を順番どおりにつなげます。ほかのイベントはすべて飛ばします -> 一生の目印(message_start、content_block_stop、message_stop)はテキストを運ばず、テキストでない差分(ストリーミングされたツール呼び出しの input_json_delta など)は見える答えの一部ではありません。空のリストなら "" を返します。

2 つの違うイベントのリストからは 2 つの違う文字列が組み立て直され、一生の目印とテキストでないイベントは飛ばされ、空のストリームなら "" を返すように作りましょう。

あなたの番

events がストリーミングのイベントの辞書のリストである collect_stream(events) を書いてください。すべての {"type": "content_block_delta", "delta": {"type": "text_delta", "text": ...}} イベントの text を順番どおりにつなげます。ほかのイベント(message_start/content_block_stop のような一生の目印や、テキストでない差分)はすべて飛ばします。空のストリームなら "" を返します。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。