课程大纲 第 104 课,共 148 课 · 唱反调的人
唱反调的人

对练,而不是要答案

为什么重要 向一个模型要一个设计,你会得到一个合理的设计,而从那以后你就在它里面思考了。让一个模型攻击你的设计,你会得到一份它可能失败的方式清单,而你自己的思考会变得更强。

过早看到一个示例,会把你的想法拉向它。在一项针对设计师的研究中,那些在头脑风暴时看到了 AI 生成图片的人更执着于这些图片,产出的想法更少、变化也更小(Wadinambiarachchi 等人,CHI 2024)。在另一项研究中,得到 AI 构思的写作者写出的故事,单个来看被评为更有创意,但作为一个整体,这些故事变得更相像了(Doshi 和 Hauser 2024)。如果由模型来写第一版草稿,你的设计就会向其他所有人的设计靠拢。

另一种做法是自己握着笔,交给模型一份不同的工作:对手。

唱反调的人:一个有意地反对一个计划的人,不管他们自己是否相信,这样计划的弱点就会在现实找到它们之前暴露出来。

用来对练的提示语

  • “这是我的设计。给我五种它在生产环境中失败的方式,最可能的排在前面。”
  • “假设它已经发布了,并在六个月后导致了一次事故。写一份事故报告。”
  • “业务方提出的哪种变更请求最能伤害这个模型?”
  • “为我否决掉的那个选项做出最有力的辩护。”

然后做模型做不了的那部分:判断哪些攻击是真实的,并把每一个真实的攻击都变成一个检查。

这个模块中的对练环节是工作室练习,不打分:没有一份正确的攻击清单。“变体”课程是打分的:你的检查会针对那些故意注入了缺陷的设计运行。

回顾 自己写设计。用模型来攻击它。只保留那些你能变成检查的攻击。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。