Prompt engineering
Dato che tutto ciò che il modello sa del tuo compito viene dal prompt, scrivere buoni prompt è una vera abilità. Due principi reggono la maggior parte del peso.
Sii specifico, non vago
Un prompt vago invita una risposta vaga (o sbagliata). Confronta:
# vague
"summarize this"
# specific
"Summarize this in 2 sentences for a non-technical reader. "
"Lead with the single most important number."Indica il formato, il pubblico, la lunghezza, e su che cosa concentrarsi. Il modello non legge nel pensiero; è un predittore di testo.
Mostra degli esempi (few-shot prompting)
Il trucco più affidabile è mostrare al modello qualche coppia input/output prima della tua vera domanda. Si chiama prompting few-shot, e insegna lo schema molto meglio che descriverlo:
Classify the sentiment.
Input: good
Output: positive
Input: awful
Output: negative
Input: great
Output:Il modello vede la forma del compito e la continua, completando l'ultimo Output:. Lasciare aperta quell'ultima riga è il segnale per rispondere.
Provalo davvero
Nell'app Floati, una volta caricato un modello sul dispositivo puoi passargli direttamente una stringa come questa (per esempio await engine.chat(prompt) nel pannello IA) e guardarlo completare l'ultima riga. Non possiamo far girare il modello vero dentro questo correttore (ha bisogno di WebGPU e non è deterministico), quindi qui costruirai la stringa del prompt, che è la parte che controlli completamente.
Scrivi few_shot_prompt(task, examples, query). Restituisce una stringa: la riga task, poi una riga vuota, poi ogni esempio (inp, out) scritto come una riga Input: <inp> seguita da una riga Output: <out>, poi un'ultima riga Input: <query> e un Output: finale che il modello deve completare. Unisci tutto con degli a capo. Poi assegna prompt = few_shot_prompt("Classify the sentiment.", examples, "great").
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.