検索 + 根拠づけたプロンプトを組み立てる
検索は動きます -- 正しい記事を見つけられます。今度は、RAG を自信たっぷりのうそつきではなく信頼できるものにする一手です:根拠づけ。言語モデルに検索したテキストを渡し、そのテキストだけから答え、答えがそこになければそう言うよう指示するのです。モデルは生の文書を見ることはありません。見るのは、あなたが組み立てたプロンプトです。だからプロンプトこそが製品です。このレッスンでは、そのプロンプトを作ります。
ハルシネーションの勝ち負けが決まるのはここです。返金の期間をでっち上げるサポートボットは、役に立たないどころではありません -- 負債です。直し方は、3 つの部分を持つ規律あるプロンプトです:モデルが引用できるように囲って番号を振った検索したチャンク、ユーザーの質問、そして文脈に答えがないときのための明示的な逃げ道です。
関数を 1 つ書いてください:
assemble_prompt(query, retrieved_chunks) # -> the full prompt stringそれは、順番に次のことをしなければなりません:
- アシスタントは下の文脈だけを使って答える、というルールを述べる。
- 次の行を、1 文字ずつ正確に含める:
If the answer is not in the context, reply exactly: I do not know. CONTEXT:の節を開き、それから各チャンクを番号を振って囲って並べる。[1]のあとに三重引用符で挟んだチャンクのテキスト、次に[2]、というように -- 与えられた順番で。- ユーザーの質問を
QUESTION:の行に加える。 - 開いたままの答えのターンで終える -- 後ろに何もない最後の
ANSWER:の行で、モデルが次に答えを書くようにする。
番号付けが大切です:それがあるからこそ、モデル(と次のレッスン)は主張がどの出典から来たかを引用できます。正確な逃げ道の行も大切です -- 下流のコードは拒否を見つけるためにまさにその番兵を探すので、言い換えるとすべてが壊れます。
文脈がない場合を扱いましょう:retrieved_chunks が空でも、有効なプロンプト(指示、逃げ道の行、空の文脈、質問、開いたままの答えのターン)を作ります -- そうすればモデルは正しく番兵で答えます。ライブの LLM の呼び出しはこの演習の一部ではありません。それが受け取るはずの文字列を作っているのです。実行を押して、根拠づけたプロンプトを出力し、モデルになったつもりで読んでみましょう。
完全な根拠づけたプロンプトの文字列を返す assemble_prompt(query, retrieved_chunks) を書いてください:文脈だけから答える指示、正確な行 If the answer is not in the context, reply exactly: I do not know.、各チャンクに [1]、[2]、... と番号を振って順番どおりに三重引用符で囲った CONTEXT: の節、QUESTION: の行、そして最後の開いたままの ANSWER: のターンです。チャンクのリストが空でも、有効なプロンプトになります。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。