특성 읽기, 그리고 그 읽기 확인하기
왜 중요한가 특성은 최상위 예시에서 이름을 얻어요. 그 이름은 가설이고, 발표된 특성 이름표 대부분은 이름 붙인 사람이 보지 않은 텍스트에 대해 결코 시험되지 않아요.
강좌의 기록된 희소 오토인코더(특성 256개, l1 0.3, 벡터 512개씩 2,000걸음 훈련, 레슨이 허락하는 것보다 길고, 모든 기계에서 같은 특성)를 불러와서, 문자열 몇 개에 대해 텍스트가 그 문자열로 끝나는 위치에 가장 특정한 특성을 고르세요. 그다음 이름표를 붙이고 따로 떼어 둔 텍스트에서 그 이름표를 시험하세요:
- 정밀도: 특성이 강하게 발화하는(가장 큰 훈련 값의 절반 위) 따로 떼어 둔 자리 중, 텍스트가 정말 그 문자열로 끝나는 비율,
- 재현율: 그 문자열로 끝나는 따로 떼어 둔 자리 중, 특성이 발화하는 비율.
interp.top_contexts(sae, A, X, model, k)는 특성 k가 가장 세게 발화하는 곳을 그 문자까지의 텍스트로 보여 줘요.
먼저 예측하세요: "tra"에 대한 특성은 " before tra"와 " layers tra"("train"의 시작)에서 가장 세게 발화해요. "tra" 이름표가 새 텍스트에서 대부분 맞을까요?
이 레슨의 단어와 기호
- 희소 오토인코더
- 한 번에 활성 특성 몇 개로 벡터를 다시 만들도록 훈련한 넓은 층
- 정밀도, 재현율(이름표의)
- 특성이 발화하는 자리 중 이름표가 맞는 비율, 이름표가 맞는 자리 중 발화하는 비율
my_guess를 "yes"나 "no"로 설정하세요. 따로 떼어 둔 벡터에서 (precision, recall)을 반환하는 check(k, s)를 쓰세요. 특성은 한 자리에서 그 값이 훈련 벡터에서의 가장 큰 값(F[:, k].max())의 절반 위일 때 발화해요. " the", "ing", "tra"에 대해 results[s] = check(feature_for(s), s)를 채우세요. honest_label을 이름표가 성립하는(정밀도 적어도 0.7) 문자열로, really를 따로 떼어 둔 텍스트에서 "tra" 특성이 가장 많이 발화하는 세 글자 끝으로 설정하세요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.