강의 계획 레슨 148개 중 104번째 · 악마의 변호인
악마의 변호인

답이 아니라 겨루기

왜 중요한가 모델에게 설계를 요청하면 합리적인 걸 받고, 그때부터 그 안에서 생각해요. 모델에게 설계를 공격하라고 하면 실패할 수 있는 방식의 목록을 받고, 자기 생각이 더 강해져요.

예시를 일찍 보면 생각이 그쪽으로 끌려가요. 디자이너 연구에서, 브레인스토밍 중 AI가 만든 이미지를 본 사람들은 그것에 더 고착됐고 아이디어가 더 적고 덜 다양했어요(Wadinambiarachchi et al., CHI 2024). 또 다른 연구에서, AI 아이디어를 받은 작가들은 하나씩 보면 더 창의적이라고 평가된 이야기를 썼지만, 무리로서는 이야기가 더 닮아 갔어요(Doshi and Hauser 2024). 모델이 첫 초안을 쓰면, 설계가 다른 모두의 것으로 수렴해요.

대안은 펜을 쥐고 모델에게 다른 일을 맡기는 거예요: 상대.

악마의 변호인: 믿든 안 믿든 일부러 계획에 반대해 논쟁해서, 현실이 찾기 전에 약점이 드러나게 하는 사람.

겨루는 프롬프트

  • "이게 내 설계야. 운영에서 실패하는 방식 다섯 가지를 가장 그럴듯한 것부터 줘."
  • "이게 출시돼서 여섯 달 뒤에 사고를 일으켰다고 가정해. 사고 보고서를 써 줘."
  • "업무에서 오는 어떤 변경 요청이 이 모델을 가장 아프게 할까?"
  • "내가 거절한 선택지에 대한 가장 강한 주장을 해 줘."

그다음 모델이 할 수 없는 부분을 하세요: 어떤 공격이 진짜인지 정하고, 진짜인 것을 하나하나 확인으로 바꾸기.

이 모듈의 겨루기 시간은 채점하지 않는 스튜디오 작업이에요: 공격의 정답 목록은 없어요. 변형 레슨은 채점해요: 확인이 일부러 결함을 넣은 설계에 맞서 돌아요.

요약 설계는 직접 쓰세요. 모델은 공격하는 데 쓰세요. 확인으로 바꿀 수 있는 공격만 남기세요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.