답이 아니라 겨루기
왜 중요한가 모델에게 설계를 요청하면 합리적인 걸 받고, 그때부터 그 안에서 생각해요. 모델에게 설계를 공격하라고 하면 실패할 수 있는 방식의 목록을 받고, 자기 생각이 더 강해져요.
예시를 일찍 보면 생각이 그쪽으로 끌려가요. 디자이너 연구에서, 브레인스토밍 중 AI가 만든 이미지를 본 사람들은 그것에 더 고착됐고 아이디어가 더 적고 덜 다양했어요(Wadinambiarachchi et al., CHI 2024). 또 다른 연구에서, AI 아이디어를 받은 작가들은 하나씩 보면 더 창의적이라고 평가된 이야기를 썼지만, 무리로서는 이야기가 더 닮아 갔어요(Doshi and Hauser 2024). 모델이 첫 초안을 쓰면, 설계가 다른 모두의 것으로 수렴해요.
대안은 펜을 쥐고 모델에게 다른 일을 맡기는 거예요: 상대.
악마의 변호인: 믿든 안 믿든 일부러 계획에 반대해 논쟁해서, 현실이 찾기 전에 약점이 드러나게 하는 사람.
겨루는 프롬프트
- "이게 내 설계야. 운영에서 실패하는 방식 다섯 가지를 가장 그럴듯한 것부터 줘."
- "이게 출시돼서 여섯 달 뒤에 사고를 일으켰다고 가정해. 사고 보고서를 써 줘."
- "업무에서 오는 어떤 변경 요청이 이 모델을 가장 아프게 할까?"
- "내가 거절한 선택지에 대한 가장 강한 주장을 해 줘."
그다음 모델이 할 수 없는 부분을 하세요: 어떤 공격이 진짜인지 정하고, 진짜인 것을 하나하나 확인으로 바꾸기.
이 모듈의 겨루기 시간은 채점하지 않는 스튜디오 작업이에요: 공격의 정답 목록은 없어요. 변형 레슨은 채점해요: 확인이 일부러 결함을 넣은 설계에 맞서 돌아요.
요약 설계는 직접 쓰세요. 모델은 공격하는 데 쓰세요. 확인으로 바꿀 수 있는 공격만 남기세요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.