Conteúdo do curso Lição 89 de 250 · Seus Primeiros Modelos de Machine Learning
Seus Primeiros Modelos de Machine Learning

Regressão Logística e Probabilidades

A árvore de decisão te deu um rótulo. Mas sistemas reais geralmente precisam de mais do que "spam" ou "não spam" -> eles precisam de quão certo o modelo está, para que você possa definir um limite, se abster quando não tiver certeza ou encaminhar os casos confiáveis automaticamente. O modelo principal para isso é logistic regression, e apesar do nome ele é um classifier, não um regressor.

Aqui está a ideia por trás disso. Um modelo linear calcula uma soma ponderada das features, que pode ser qualquer número de menos infinito a mais infinito. A regressão logística achata esse número através da função sigmoid em uma probabilidade entre 0 e 1:

sigmoid(z) = 1 / (1 + e**(-z))
# z = -4 -> 0.018     z = 0 -> 0.5     z = 4 -> 0.982

Então o modelo gera P(class = 1). Qualquer coisa acima de 0.5 prevê a classe 1, qualquer coisa abaixo prevê a classe 0, e um valor perto de 0.5 é o modelo dizendo "não tenho certeza". Esse número único é o que cada truque de roteamento e limite de confiança posterior neste curso é construído.

O código é o mesmo ritual fit/predict da árvore, com um novo método, predict_proba, que retorna as probabilidades em vez dos rótulos fixos:

from sklearn.linear_model import LogisticRegression

clf = LogisticRegression()
clf.fit(X, y)
clf.predict(X)              # hard labels: 0 or 1
clf.predict_proba(X)       # one [P(0), P(1)] row per sample, each row sums to 1

Você vai treiná-lo em um conjunto de dados pequeno e intuitivo: horas estudadas versus se um aluno passou. Poucas horas -> reprovado (0), muitas horas -> aprovado (1). Como o padrão é monotônico, o modelo ajustado deve dar uma maior probabilidade de passar para alguém que estudou mais. As duas colunas de predict_proba são P(class 0) e P(class 1) na ordem de clf.classes_ (aqui [0, 1]), então o índice da coluna 1 é a probabilidade de passar.

Sua vez

Um conjunto de dados de 1 característica é fornecido: hours estudou e passed (0 ou 1). (1) Crie um LogisticRegression() e fit ele em X, y. (2) Armazene os rótulos fixos para X em preds. (3) Use predict_proba para armazenar a probabilidade de passing (classe 1) para estudar por 2 horas em p_low, e por 7 horas em p_high. O modelo deve ser confiante o suficiente que p_high > p_low, e ambos são probabilidades reais entre 0 e 1.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.