Programma Lezione 112 di 250 · Intuizione sulle reti neurali, LLM e progetto finale di IA
Intuizione sulle reti neurali, LLM e progetto finale di IA

Prompt engineering

Dato che tutto ciò che il modello sa del tuo compito viene dal prompt, scrivere buoni prompt è una vera abilità. Due principi reggono la maggior parte del peso.

Sii specifico, non vago

Un prompt vago invita una risposta vaga (o sbagliata). Confronta:

# vague
"summarize this"

# specific
"Summarize this in 2 sentences for a non-technical reader. "
"Lead with the single most important number."

Indica il formato, il pubblico, la lunghezza, e su che cosa concentrarsi. Il modello non legge nel pensiero; è un predittore di testo.

Mostra degli esempi (few-shot prompting)

Il trucco più affidabile è mostrare al modello qualche coppia input/output prima della tua vera domanda. Si chiama prompting few-shot, e insegna lo schema molto meglio che descriverlo:

Classify the sentiment.

Input: good
Output: positive
Input: awful
Output: negative
Input: great
Output:

Il modello vede la forma del compito e la continua, completando l'ultimo Output:. Lasciare aperta quell'ultima riga è il segnale per rispondere.

Provalo davvero

Nell'app Floati, una volta caricato un modello sul dispositivo puoi passargli direttamente una stringa come questa (per esempio await engine.chat(prompt) nel pannello IA) e guardarlo completare l'ultima riga. Non possiamo far girare il modello vero dentro questo correttore (ha bisogno di WebGPU e non è deterministico), quindi qui costruirai la stringa del prompt, che è la parte che controlli completamente.

Tocca a te

Scrivi few_shot_prompt(task, examples, query). Restituisce una stringa: la riga task, poi una riga vuota, poi ogni esempio (inp, out) scritto come una riga Input: <inp> seguita da una riga Output: <out>, poi un'ultima riga Input: <query> e un Output: finale che il modello deve completare. Unisci tutto con degli a capo. Poi assegna prompt = few_shot_prompt("Classify the sentiment.", examples, "great").

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.