Kỹ thuật prompt
Vì mọi thứ mô hình biết về tác vụ của bạn đều đến từ prompt, viết prompt tốt là một kỹ năng thật. Hai nguyên tắc gánh phần lớn sức nặng.
Cụ thể, đừng mơ hồ
Một prompt mơ hồ mời gọi một câu trả lời mơ hồ (hoặc sai). So sánh:
# vague
"summarize this"
# specific
"Summarize this in 2 sentences for a non-technical reader. "
"Lead with the single most important number."Nêu định dạng, đối tượng, độ dài, và điều cần tập trung. Mô hình không đọc được ý nghĩ; nó là một cỗ máy dự đoán văn bản.
Cho xem ví dụ (prompt few-shot)
Mẹo đáng tin cậy nhất là cho mô hình xem vài cặp đầu vào/đầu ra trước câu hỏi thật của bạn. Việc này gọi là prompt few-shot, và nó dạy khuôn mẫu tốt hơn nhiều so với mô tả nó:
Classify the sentiment.
Input: good
Output: positive
Input: awful
Output: negative
Input: great
Output:Mô hình thấy hình dạng của tác vụ và tiếp tục nó, điền vào Output: cuối cùng. Để trống dòng cuối đó là tín hiệu để trả lời.
Thử thật
Trong ứng dụng Floati, một khi một mô hình trên thiết bị đã được tải, bạn có thể đưa thẳng một chuỗi như thế này cho nó (ví dụ await engine.chat(prompt) trong bảng AI) và xem nó hoàn thành dòng cuối. Ta không thể chạy mô hình thật bên trong bộ chấm này (nó cần WebGPU và không tất định), nên ở đây bạn sẽ xây chuỗi prompt, phần bạn hoàn toàn kiểm soát.
Viết few_shot_prompt(task, examples, query). Nó trả về một chuỗi: dòng task, rồi một dòng trống, rồi mỗi ví dụ (inp, out) được kết xuất thành một dòng Input: <inp> theo sau là một dòng Output: <out>, rồi một dòng Input: <query> cuối cùng và một Output: ở cuối để mô hình hoàn thành. Nối mọi thứ bằng dấu xuống dòng. Rồi đặt prompt = few_shot_prompt("Classify the sentiment.", examples, "great").
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.