総仕上げ:本番のプロンプトパイプライン(チケットの振り分け)
これがフィナーレです:モジュール全体を、サポートチケットの振り分けのための 1 つの本番のプロンプトパイプラインにつなぎます。生のチケットが届きます。インジェクションを防ぎ、トークンの予算を守り、フューショットのプロンプトを組み立て、それからモデルが返す JSON が何であれ検証しなければなりません。チケットを分類するのはモデルです(その 1 ステップが LLM で、採点しない唯一の部分です)。そのまわりのすべてが、あなたの持ち分のエンジニアリングです。
プロンプトの組み立て関数を作ってください。build_triage_prompt(ticket, budget=200):
- チケットをインジェクションの検出に通します。怪しければ、チケットの本文は
[blocked input]になり、生のペイロードは決してプロンプトに入りません。 - そうでなければ、チケットを
budget文字に切り詰めます(チケットは巨大になりえますし、トークンごとにお金を払うからです)。 [system]の指示、次にフューショットのTicket: ... / JSON: ...の例を 2 つ、次に囲った本物のチケットを組み立て、最後の[assistant]の行で終えます。
出力の検証関数を作ってください。parse_triage(model_json) は try/except の中でモデルの返答を json.loads し、2 つの列挙値を確かめます:category が {billing, technical, account, general} にあり、urgency が {low, medium, high} にあることです。{"ok": bool, "errors": [...]} を返します。
parse_triage('{"category": "billing", "urgency": "high"}') # ok True
parse_triage('{"category": "weather", "urgency": "high"}') # ok False
parse_triage('not json at all') # ok False, no crashチューターがオンなら、デバイス上のモデルが parse_triage が検証する JSON を作り出し、ループをライブで閉じられます。でも採点が触れるのは決定的な部分だけです:プロンプトが正しい構造を持ち、インジェクションをブロックし、大きすぎるチケットを切り詰め、検証関数が良い出力を受け入れて悪い出力を拒否することです。初期コードに含まれている、インジェクションのレッスンの is_suspicious と wrap_user_input を再利用しましょう。実行を押して採点します。
build_triage_prompt(ticket, budget=200) を書いてください:インジェクションを検出し(怪しい -> チケットの本文は [blocked input] になり、ペイロードはない)、そうでなければ budget 文字に切り詰めます。[system] の行、フューショットの Ticket:/JSON: の例を 2 つ、囲った本物のチケット、そして最後の [assistant] を組み立てます。本物のチケットは、例と同じように Ticket: で始まる専用の行に置き、その本文は(インジェクションのレッスンの)wrap_user_input で囲います。try/except の中で json.loads し、category が {billing,technical,account,general} に、urgency が {low,medium,high} にあることを検証して、{"ok", "errors"} を返す parse_triage(model_json) を書いてください。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。