思维链与解析最终答案
对于任何需要推理的事情(数学、多步逻辑、仔细的分类),让模型在回答之前一步一步地思考,能明显提高准确率。问题在于:现在模型会吐出一大段推理,而你仍然需要在另一头得到一个干净的、机器可读的答案。
标准的技巧是让模型以一行你能解析的固定内容结尾,比如 Answer: 42。你构建要求这种形状的提示词,并写出把它提取出来的解析器。模型在中间做推理(不评分),但两头的约定是你的。
一个思维链的回复看起来是这样的:
There are 3 boxes with 4 apples each.
3 times 4 is 12.
Answer: 12写两个函数:
cot_prompt(question)返回一个提示词字符串,它包含问题,要求模型一步一步地推理,并指示它以恰好为Answer: <value>形式的一行结尾。parse_final_answer(model_output)扫描输出,返回最后一行Answer:之后的值(不区分大小写,去掉两端空白)。如果没有这样的一行,就返回None。
一条 2026 年的说明:明确的"一步一步地思考"指令是为较老的、不会思考的模型设计的。现代会思考的/推理模型已经在内部这样做了,所以再加上一个手写的思维链可能是多余的,甚至会损害质量。主要在较小的或不会思考的模型上使用明确的思维链,或者在你确实需要可见的步骤来解析或审计时使用。
有两个细节物有所值。最后一行为准:模型经常会自我纠正("Answer: 3 ... wait, Answer: 5"),而最后一行才是真正的答案,所以要扫到底。缺失时返回 None:如果模型从来没有产生那一行,就如实说出来,而不是去猜,这样调用者就能重试。按 Run 评分。
写 cot_prompt(question),返回一个包含问题、短语 step by step 和一条 Answer: 指令的提示词。写 parse_final_answer(model_output),返回最后一行匹配 Answer:(不区分大小写)的行之后、去掉两端空白的文本,如果没有这样的行就返回 None。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。