검색 + 근거 있는 프롬프트 만들기
검색이 작동해요 -- 올바른 글을 찾을 수 있어요. 이제 RAG를 자신만만한 거짓말쟁이가 아니라 믿을 만하게 만드는 움직임이 와요: 근거 주기. 언어 모델에게 검색한 글을 건네고 그 글로만 답하라고, 답이 거기 없으면 그렇다고 말하라고 지시해요. 모델은 날것의 문서를 결코 보지 않아요. 여러분이 조립한 프롬프트를 봐요. 그러니 프롬프트가 곧 제품이에요. 이 레슨은 그 프롬프트를 만들어요.
여기서 환각을 이기거나 져요. 환불 기간을 지어내는 지원 봇은 쓸모없는 것보다 나빠요 -- 법적 위험이에요. 해결책은 세 부분으로 된 엄격한 프롬프트예요: 모델이 인용할 수 있도록 울타리를 치고 번호를 매긴 검색 청크, 사용자의 질문, 그리고 맥락에 답이 없을 때를 위한 명시적인 비상구.
함수 하나를 쓰세요:
assemble_prompt(query, retrieved_chunks) # -> the full prompt string순서대로 다음을 해야 해요:
- 어시스턴트가 아래 맥락만 써서 답한다는 규칙을 말해요.
- 이 줄을 글자 하나하나 정확히 넣어요:
If the answer is not in the context, reply exactly: I do not know. CONTEXT:섹션을 열고, 각 청크를 번호와 울타리를 붙여 나열해요.[1]다음에 세 따옴표 사이의 청크 글, 그다음[2], 이런 식으로 -- 주어진 순서대로.QUESTION:줄에 사용자의 질문을 더해요.- 열린 답 차례로 끝나요 -- 뒤에 아무것도 없는 마지막
ANSWER:줄이라서, 모델이 다음에 답을 써요.
번호가 중요해요: 그게 모델이 (그리고 다음 레슨이) 주장이 어느 출처에서 왔는지 인용하게 해요. 정확한 비상구 줄도 중요해요 -- 뒤따르는 코드가 거절을 알아채려고 바로 그 표지를 찾을 테니, 바꿔 말하면 모든 게 깨져요.
맥락이 없는 경우를 다루세요: retrieved_chunks가 비어도 올바른 프롬프트를 만들어요(지시, 비상구 줄, 빈 맥락, 질문, 열린 답 차례) -- 그러면 모델이 올바르게 표지로 답할 거예요. 실시간 LLM 호출은 이 연습에 들어가지 않아요. 모델이 받을 문자열을 만드는 거예요. Run을 눌러 근거 있는 프롬프트를 출력하고 모델처럼 읽어 보세요.
근거 있는 프롬프트 문자열 전체를 돌려주는 assemble_prompt(query, retrieved_chunks)를 쓰세요: 맥락으로만 답하라는 지시, 정확한 줄 If the answer is not in the context, reply exactly: I do not know., 각 청크를 순서대로 [1], [2], ...로 번호 매기고 세 따옴표로 울타리를 친 CONTEXT: 섹션, QUESTION: 줄, 그리고 마지막 열린 ANSWER: 차례. 빈 청크 리스트도 올바른 프롬프트를 내요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.