根拠づけたプロンプトを組み立てる
検索が正しいチャンクを見つけました。今度はモデルにそれを使い、それ以外は使わないように伝えなければなりません。これがプロンプトの組み立てのステップで、根拠づけが強制される場所です。根拠づけたプロンプトは 3 つの仕事をします:検索した文脈をはっきり示し、その文脈だけから答えるようモデルに指示し、答えをでっち上げる代わりに知らないと認められる逃げ道をモデルに与えるのです。
チャンクに番号を振ることは、2 つの理由で大切です:モデルが 2 つの一節をぼかして混ぜないように見た目で分けられること、そしてあとで引用を求めたときにモデルが「[2]」と引用できることです。逃げ道の行は、前のレッスンの拒否のガードレールのもう半分です:検索がまずまずでも、特定の答えはテキストにないかもしれません。知らないときに何と言うかを正確に指示されたモデルは、ハルシネーションを起こす可能性がずっと低くなります。
System: Answer the question using only the context below.
If the answer is not in the context, reply exactly: I don't know.
Context:
[1] Refunds are issued within five business days...
[2] Shipping takes 5 to 7 business days...
Question: how long do refunds take?
Assistant:その最後の Assistant: の行が開いたままのターンです:モデルが書き始める場所です。(ブラウザの中では、デバイス上の WebLLM がまさにこの文字列を受け取って答えを生み出すでしょう。採点されるのはあなたが組み立てた文字列だけで、モデルの返答は決して採点されません。それこそ、あなたが実際にエンジニアリングする決定的な部分です。)
作るもの。contexts がチャンクの文字列のリストである build_rag_prompt(query, contexts) を書いてください。返すプロンプトは次を満たさなければなりません:
- 各文脈のチャンクを、1 から番号を振って
[1] ...、[2] ...と順番どおりに含む。 - 文脈だけを使って答えるという正確な指示を含む。
- 正確な逃げ道
I don't know.(答えがないときに指示されたモデルの返答)を含む。 queryのテキストを含む。- 開いたままの答えのターンで終わる(空でない最後の行が
Assistant:の目印)。
実行を押して、検索した 2 つのチャンクからプロンプトを組み立て、読み返しましょう。
根拠づけたプロンプトの文字列を返す build_rag_prompt(query, contexts) を書いてください。各文脈のチャンクに順番どおり [1] ...、[2] ... と番号を振り、文脈だけを使って答える指示を含め、正確な逃げ道 I don't know. を含め、query を含め、開いたままの Assistant: のターンで終えなければなりません。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。