Rollen & Systeemprompts
A modern chat model ziet niet één blok tekst. Het ziet een list van berichten, elk getagd met een role. De rollen die ertoe doen: system stelt de regels en persoonlijkheid één keer bovenaan in, user is wat een persoon typte, en assistant is wat het model terug zei. Deze goed krijgen is het verschil tussen een model dat zich gedraagt en een model dat dwaalt.
A echte aanroep naar een chat API ziet er zo uit (alleen getoond om de vorm concreet te maken, je zult GEEN API aanroepen in deze oefening):
messages = [
{"role": "system", "content": "You are a terse support bot."},
{"role": "user", "content": "my order is late"},
]
# Some chat APIs take this list as it is. The Anthropic API takes the system
# text in its own argument instead (Module "Calling a Real LLM" builds this):
# response = client.messages.create(model=..., system=messages[0]["content"],
# messages=messages[1:])Als je tutor aan staat, zou een on-device model het zelfs voor je kunnen beantwoorden. Maar daar word je niet op beoordeeld. Je wordt beoordeeld op het deel dat je daadwerkelijk ontwerpt: de lijst met berichten correct samenstellen en weigeren om een kapotte samen te stellen.
Bouw chat_prompt(system, turns) dat een transcript rendert als een enkele string:
- De eerste regel is de system prompt:
[system] <system text>. - Dan wordt elke beurt in
turns(een lijst van(role, content)tuples) in volgorde weergegeven als[role] content. - Eindig met een open
[assistant]regel, de aanwijzing voor het model om daarna te spreken. - Als een beurt een rol heeft die niet
userofassistantis, geef danValueErrorop. De systeemrol wordt één keer ingesteld via het eerste argument, nooit als een beurt.
Dus chat_prompt("Be brief.", [("user", "hi")]) geeft:
[system] Be brief.
[user] hi
[assistant]Die rolcontrole is geen zinloze taak. Een aanroeper laten een nep system halverwege het gesprek smokkelen is een echte manier waarop prompts worden gekaapt. Valideer de input en geef een duidelijke foutmelding. Druk op Run om te beoordelen.
Schrijf chat_prompt(system, turns) dat een transcript string teruggeeft. Regel 1 is [system] <system>. Elke (role, content) in turns wordt in volgorde weergegeven als [role] content. Eindig met een openstaande [assistant] regel. Gooi ValueError op als een turn role niet user of assistant is. Zonder turns is de output exact "[system] <system>\n[assistant]".
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.