シラバス レッスン 250 中 134 · AI エンジニアのためのプロンプトエンジニアリング
AI エンジニアのためのプロンプトエンジニアリング

総仕上げ:本番のプロンプトパイプライン(チケットの振り分け)

これがフィナーレです:モジュール全体を、サポートチケットの振り分けのための 1 つの本番のプロンプトパイプラインにつなぎます。生のチケットが届きます。インジェクションを防ぎ、トークンの予算を守り、フューショットのプロンプトを組み立て、それからモデルが返す JSON が何であれ検証しなければなりません。チケットを分類するのはモデルです(その 1 ステップが LLM で、採点しない唯一の部分です)。そのまわりのすべてが、あなたの持ち分のエンジニアリングです。

プロンプトの組み立て関数を作ってください。build_triage_prompt(ticket, budget=200):

  • チケットをインジェクションの検出に通します。怪しければ、チケットの本文は [blocked input] になり、生のペイロードは決してプロンプトに入りません。
  • そうでなければ、チケットを budget 文字に切り詰めます(チケットは巨大になりえますし、トークンごとにお金を払うからです)。
  • [system] の指示、次にフューショットの Ticket: ... / JSON: ... の例を 2 つ、次に囲った本物のチケットを組み立て、最後の [assistant] の行で終えます。

出力の検証関数を作ってください。parse_triage(model_json) は try/except の中でモデルの返答を json.loads し、2 つの列挙値を確かめます:category が {billing, technical, account, general} にあり、urgency が {low, medium, high} にあることです。{"ok": bool, "errors": [...]} を返します。

parse_triage('{"category": "billing", "urgency": "high"}')   # ok True
parse_triage('{"category": "weather", "urgency": "high"}')   # ok False
parse_triage('not json at all')                              # ok False, no crash

チューターがオンなら、デバイス上のモデルが parse_triage が検証する JSON を作り出し、ループをライブで閉じられます。でも採点が触れるのは決定的な部分だけです:プロンプトが正しい構造を持ち、インジェクションをブロックし、大きすぎるチケットを切り詰め、検証関数が良い出力を受け入れて悪い出力を拒否することです。初期コードに含まれている、インジェクションのレッスンの is_suspicious と wrap_user_input を再利用しましょう。実行を押して採点します。

あなたの番

build_triage_prompt(ticket, budget=200) を書いてください:インジェクションを検出し(怪しい -> チケットの本文は [blocked input] になり、ペイロードはない)、そうでなければ budget 文字に切り詰めます。[system] の行、フューショットの Ticket:/JSON: の例を 2 つ、囲った本物のチケット、そして最後の [assistant] を組み立てます。本物のチケットは、例と同じように Ticket: で始まる専用の行に置き、その本文は(インジェクションのレッスンの)wrap_user_input で囲います。try/except の中で json.loads し、category が {billing,technical,account,general} に、urgency が {low,medium,high} にあることを検証して、{"ok", "errors"} を返す parse_triage(model_json) を書いてください。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。