Chương trình học Bài 112 trên tổng số 250 · Trực giác về mạng nơ-ron, LLM và dự án cuối về AI
Trực giác về mạng nơ-ron, LLM và dự án cuối về AI

Kỹ thuật prompt

Vì mọi thứ mô hình biết về tác vụ của bạn đều đến từ prompt, viết prompt tốt là một kỹ năng thật. Hai nguyên tắc gánh phần lớn sức nặng.

Cụ thể, đừng mơ hồ

Một prompt mơ hồ mời gọi một câu trả lời mơ hồ (hoặc sai). So sánh:

# vague
"summarize this"

# specific
"Summarize this in 2 sentences for a non-technical reader. "
"Lead with the single most important number."

Nêu định dạng, đối tượng, độ dài, và điều cần tập trung. Mô hình không đọc được ý nghĩ; nó là một cỗ máy dự đoán văn bản.

Cho xem ví dụ (prompt few-shot)

Mẹo đáng tin cậy nhất là cho mô hình xem vài cặp đầu vào/đầu ra trước câu hỏi thật của bạn. Việc này gọi là prompt few-shot, và nó dạy khuôn mẫu tốt hơn nhiều so với mô tả nó:

Classify the sentiment.

Input: good
Output: positive
Input: awful
Output: negative
Input: great
Output:

Mô hình thấy hình dạng của tác vụ và tiếp tục nó, điền vào Output: cuối cùng. Để trống dòng cuối đó là tín hiệu để trả lời.

Thử thật

Trong ứng dụng Floati, một khi một mô hình trên thiết bị đã được tải, bạn có thể đưa thẳng một chuỗi như thế này cho nó (ví dụ await engine.chat(prompt) trong bảng AI) và xem nó hoàn thành dòng cuối. Ta không thể chạy mô hình thật bên trong bộ chấm này (nó cần WebGPU và không tất định), nên ở đây bạn sẽ xây chuỗi prompt, phần bạn hoàn toàn kiểm soát.

Đến lượt bạn

Viết few_shot_prompt(task, examples, query). Nó trả về một chuỗi: dòng task, rồi một dòng trống, rồi mỗi ví dụ (inp, out) được kết xuất thành một dòng Input: <inp> theo sau là một dòng Output: <out>, rồi một dòng Input: <query> cuối cùng và một Output: ở cuối để mô hình hoàn thành. Nối mọi thứ bằng dấu xuống dòng. Rồi đặt prompt = few_shot_prompt("Classify the sentiment.", examples, "great").

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.