Conteúdo do curso Lição 96 de 250 · Seus Primeiros Modelos de Machine Learning
Seus Primeiros Modelos de Machine Learning

Random Forests: Sabedoria da Multidão

Uma única árvore de decisão é fácil de entender mas frágil, ela sofre overfitting facilmente e suas previsões podem variar muito com pequenas mudanças nos dados. Uma random forest corrige isso com uma ideia simples e poderosa: treine muitas árvores diferentes e deixe que elas votem.

Cada árvore na floresta é cultivada em uma amostra aleatória ligeiramente diferente dos dados e considera um subconjunto aleatório de features em cada divisão. Então cada árvore é um pouco diferente e comete erros diferentes. Quando você tira a média dos votos deles, os erros individuais tendem a se cancelar e as peculiaridades aleatórias desaparecem. Esta é a sabedoria da multidão: um grupo de adivinhadores diversos e imperfeitos geralmente vence qualquer especialista único.

from sklearn.ensemble import RandomForestClassifier

forest = RandomForestClassifier(n_estimators=50, random_state=0)
forest.fit(X_train, y_train)

n_estimators é quantas árvores crescer (50 aqui). Mais árvores geralmente ajudam um pouco, até certo ponto, ao custo de velocidade. Como sempre, random_state=0 mantém o resultado reproduzível já que a amostragem da floresta é aleatória.

O benefício principal: uma floresta geralmente generaliza melhor do que uma única árvore, o que significa uma pontuação maior no conjunto de teste reservado. É um dos modelos prontos para uso mais confiáveis, e uma ótima opção padrão para escolher.

Você vai treinar uma decision tree simples e uma random forest no mesmo split, avaliar ambas no test set e confirmar que a forest performa pelo menos tão bem quanto.

Sua vez

Um conjunto de dados e uma divisão treino/teste são preparados. Treine tree = DecisionTreeClassifier(max_depth=3, random_state=0) e forest = RandomForestClassifier(n_estimators=50, random_state=0) nos dados de treino. Avalie ambos no conjunto test com accuracy_score, armazenando os resultados em tree_acc e forest_acc.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.