Prompt-ingenieurswese
Aangesien alles wat die model oor jou taak weet van die prompt af kom, is die skryf van goeie prompts 'n ware vaardigheid. Twee beginsels dra die meeste gewig.
Wees spesifiek, moenie vaag wees nie
'n vae aanvraiging nooi 'n vae (of verkeerde) antwoord uit. Vergelyk:
# vague
"summarize this"
# specific
"Summarize this in 2 sentences for a non-technical reader. "
"Lead with the single most important number."Sê die formaat, die gehoor, die lengte, en waarop om te fokus. Die model kan nie gedagtes lees nie; dit is 'n teksvoorspeller.
Wys voorbeelde (few-shot prompting)
Die meesetroue truc is om show die model 'n paar invoer/uitvoer-paaie voor jou regte vraag te wys. Dit word few-shot prompting genoem, en dit leer die patroon veel beter as om dit te beskryf:
Classify the sentiment.
Input: good
Output: positive
Input: awful
Output: negative
Input: great
Output:Die model sien die vorm van die taak en voltooi dit deur die finale Output: in te vul. Om daardie laaste reël oop te laat is die sein om te antwoord.
Probeer dit regtig
In die Floati-app, sodat 'n model op die toestel gelaai is, kan jy 'n string soos hierdie direk daartoe stuur (byvoorbeeld await engine.chat(prompt) in die AI-paneel) en sien hoe dit die laaste reël voltooi. Ons kan nie die lewendige model binne hierdie grader hardloop nie (dit het WebGPU nodig en is nie-deterministies nie), so hier gaan jy die prompt string bou, wat die deel is wat jy ten volle beheer.
Skryf few_shot_prompt(task, examples, query). Dit gee 'n string terug: die task lyn, dan 'n leë lyn, dan elke (inp, out) voorbeeld wat as 'n Input: <inp> lyn gerender word gevolg deur 'n Output: <out> lyn, dan 'n finale Input: <query> lyn en 'n agterkantste Output: vir die model om te voltooi. Voeg alles saam met nuwe lyne. Stel dan prompt = few_shot_prompt("Classify the sentiment.", examples, "great").
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.