강의 계획 레슨 250개 중 89번째 · 첫 머신러닝 모델
첫 머신러닝 모델

로지스틱 회귀와 확률

결정 트리는 레이블을 줬어요. 하지만 실제 시스템은 보통 "스팸"이나 "스팸 아님" 이상이 필요해요 -> 모델이 얼마나 확신하는지가 필요해요. 그래야 기준을 정하고, 불확실하면 판단을 미루고, 확신하는 경우는 자동으로 보낼 수 있어요. 그 일의 일꾼 모델이 로지스틱 회귀이고, 이름과 달리 회귀가 아니라 분류기예요.

그 뒤의 생각 하나가 여기 있어요. 선형 모델은 특성의 가중합을 계산하는데, 그것은 마이너스 무한대에서 플러스 무한대까지 어떤 숫자든 될 수 있어요. 로지스틱 회귀는 그 숫자를 시그모이드 함수로 눌러 0과 1 사이의 확률로 만들어요:

sigmoid(z) = 1 / (1 + e**(-z))
# z = -4 -> 0.018     z = 0 -> 0.5     z = 4 -> 0.982

그래서 모델은 P(class = 1)을 출력해요. 0.5보다 크면 클래스 1을, 작으면 클래스 0을 예측하고, 0.5 근처의 값은 모델이 "확실하지 않아요"라고 말하는 거예요. 이 강좌에서 나중에 나오는 모든 확신 기준과 분기 요령이 그 숫자 하나 위에 지어져요.

코드는 트리와 같은 fit/predict 의식이고, 새 메서드 하나 predict_proba가 딱딱한 레이블 대신 확률을 돌려줘요:

from sklearn.linear_model import LogisticRegression

clf = LogisticRegression()
clf.fit(X, y)
clf.predict(X)              # hard labels: 0 or 1
clf.predict_proba(X)       # one [P(0), P(1)] row per sample, each row sums to 1

작고 직관적인 데이터셋으로 훈련해요: 공부한 시간과 학생의 합격 여부. 시간이 적으면 -> 불합격(0), 많으면 -> 합격(1). 패턴이 단조로우니, fit 된 모델은 더 많이 공부한 사람에게 합격 확률을 더 높게 줘야 해요. predict_proba의 두 열은 clf.classes_(여기서는 [0, 1])의 순서대로 P(class 0)과 P(class 1)이니, 열 인덱스 1이 합격 확률이에요.

내 차례

특성 하나짜리 데이터셋이 주어져요: 공부한 hours와 passed(0 또는 1). (1) LogisticRegression()을 만들고 X, y로 fit 하세요. (2) X에 대한 딱딱한 레이블을 preds에 저장하세요. (3) predict_proba로 2시간 공부했을 때의 합격(클래스 1) 확률을 p_low에, 7시간일 때를 p_high에 저장하세요. 모델은 p_high > p_low일 만큼 확신해야 하고, 둘 다 0과 1 사이의 진짜 확률이어야 해요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.