Rolle & Stelselprompts
'n moderne kletsmodel sien nie een blok teks nie. Dit sien 'n lys van boodskappe, elk gemerk met 'n role. Die rolle wat saak maak: system stel die reëls en persona een keer bo aan, user is wat 'n persoon getik het, en assistant is wat die model teruggesê het. Om hierdie reg te kry is die verskil tussen 'n model wat korrek optree en een wat verdwaal.
'n regte oproep na 'n chat API lyk soos dit (gewys net om die vorm konkreet te maak, jy sal NIE enige API in hierdie oefening aanroep nie):
messages = [
{"role": "system", "content": "You are a terse support bot."},
{"role": "user", "content": "my order is late"},
]
# Some chat APIs take this list as it is. The Anthropic API takes the system
# text in its own argument instead (Module "Calling a Real LLM" builds this):
# response = client.messages.create(model=..., system=messages[0]["content"],
# messages=messages[1:])As jy tutor aan is, kan 'n on-device model dit selfs vir jou beantwoord. Maar niks van dit word op jou gegradeer nie. Jy word gegrade op die deel wat jy werklik ontwerp: die korrek saamstel van die message list en die weier om 'n gebreekte een saam te stel.
Bou chat_prompt(system, turns) wat 'n transkrip as 'n enkele string vertoon:
- Die eerste reël is die stelselprompt:
[system] <system text>. - Dan elke beurt in
turns( 'n lys van(role, content)tuples) word in volgorde as[role] content. vertoon. - Eindig met 'n oop
[assistant]lyn, die sein vir die model om volgende te praat. - As die turn enige rol het behalwe
userofassistant, gooiValueError. Die system role word een keer gestel via die eerste argument, nooit as 'n turn nie.
So chat_prompt("Be brief.", [("user", "hi")]) gee:
[system] Be brief.
[user] hi
[assistant]Da rolkontrole is nie nuttelose werk nie. Om 'n roepeur toe toe te laat om 'n vals system in die middel van 'n gesprek te smokkel is 'n werklike manier waarop prompts gekaap word. Valideer die input en laat dit duidelik faal. Druk Run om te gradeer.
Skryf chat_prompt(system, turns) wat 'n transcript string teruggee. Lyn 1 is [system] <system>. Elke (role, content) in turns word in volgorde as [role] content vertoon. Eindig met 'n agtersteen oop [assistant] lyn. Gooi ValueError as enige turn role nie user of assistant is nie. Met geen turns is die uitset presies "[system] <system>\n[assistant]".
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.