Conteúdo do curso Lição 93 de 246 · Módulo 7: Trabalhando com novos dados
Módulo 7: Trabalhando com novos dados

Gate: feche a lacuna sem underfitting (IA desligada)

Por que isso importa Fechar uma lacuna de trem/validação é fácil se você puder tornar o modelo inútil. Fazer isso mantendo o modelo bom é a habilidade real. Já conhece este módulo? Você pode fazer este portão primeiro, antes das outras lições: passá-lo marca este módulo como concluído e abre o próximo.

IA desligada. Um polinômio de grau 14 em 25 pontos sofre overfitting severo. Você deve manter o grau 14 e usar weight decay (ridge, da lição de viés e variância), escolhendo sua força com o conjunto de validação.

Como você escolhe alpha olhando para o conjunto de validação, o erro de validação agora é um pouco lisonjeiro. Então o gate avalia você em um conjunto de teste separado de 2.000 pontos novos que seu código nunca vê. Essa é a forma honesta de relatar um modelo que você ajustou.

Palavras e símbolos nesta lição
overfitting, underfitting
ajustando o ruído nos dados de treinamento; ou simples demais para ajustar o padrão
conjunto de validação
dados retidos usados para escolher configurações
viés, variância
estar errado do mesmo jeito toda vez; ou mudar muito com os dados de treinamento
ridge (alpha)
mínimos quadrados com weight decay de força alpha
Sua vez

Escreva fit(x, y) retornando coeficientes (menor potência primeiro) para um polinômio de grau 14. Deve ser uma solução ridge, solve(A.T A + alpha I, A.T y) para algum alpha acima de 0 (o teste verifica isso, então um polinômio menor preenchido com zeros não conta). Passe se o erro no conjunto de teste oculto for abaixo de 0.045 e o gap (teste menos treinamento) for abaixo de 0.05. Para escala: o mínimos quadrados simples tem um erro de teste de cerca de 0.73, o melhor alpha possível um erro de teste de cerca de 0.034, e um alpha escolhido honestamente no conjunto de validação, em qualquer grade sensata como potências de 10, um erro de teste de cerca de 0.034 a 0.039. Um ajuste plano e excessivamente reduzido falha no limite de 0.045.

IA desligada: sem tutor, dicas ou solução resolvida nesta. Apenas seu próprio pensamento.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Código · roda no seu navegador
Saída

        

Seu progresso é contado anonimamente. Mude isso