어떤 부분이 중요한가
왜 중요한가 부분을 설명하기 전에, 그게 무언가를 하는지 알아내세요. 부분 없애기(제거)는 잴 수 있는 가장 싼 효과이고, 어디를 볼지 바꿔요.
GPT의 각 블록에는 어텐션 부분('attn_out0', 'attn_out1'에 써요)과 MLP('mlp_out0', 'mlp_out1'에 써요)가 있어요. 하나씩 없애고(출력을 0으로) 따로 떼어 둔 손실의 상승을 재세요. 그다음 interp.head_effects(model, X, Y, 1)로 블록 1의 헤드 넷을 하나씩 없애세요.
위험 하나: 헤드 둘이 같은 일을 하면, 어느 하나만 없애면 거의 아무것도 보이지 않아요. 그러니 헤드 하나씩의 상승 넷을 더한 것과, 블록 1의 어텐션 전부를 한꺼번에 없앤 것도 비교하세요. 함께 없애는 게 합보다 훨씬 더 해치면, 서로 대체하고 있는 거예요.
이 레슨의 단어와 기호
- 패턴, 효과, 메커니즘
- 증거의 세 종류: 보고 봤다, 바꿨더니 출력이 바뀌었다, 설명했더니 그 설명이 새 경우를 예측했다
- 제거
- 부분을 없애고(출력을 0으로) 무엇이 바뀌는지 재기
네 부분에 대해 rise를, 헤드 하나씩의 상승 넷으로 heads1을 채우고, 그다음 블록 1의 어텐션 전부를 없애는 게 그 헤드들 각각의 합의 두 배보다 더 들면 backup을 True로, 없앴을 때 가장 많이 드는 부분으로 biggest를 설정하세요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.