Experimentos prontos:
O que a rede aprendeu
classe Aclasse Bcheio: treinovazado: validação
Dados
Hiperparâmetros
Curvas de erro
erro no treinoerro na validaçãomelhor época na validação
A sorte da semente
A seed define os pesos iniciais e a ordem dos exemplos. Treine a mesma rede, com os mesmos dados, usando cinco seeds diferentes por 300 épocas.
Para entender o que acontece
- Época é uma passada por todos os exemplos de treino. A cada lote, a rede calcula o erro e ajusta os pesos um pouco na direção que diminui esse erro (descida do gradiente com retropropagação).
- Taxa de aprendizado é o tamanho desse passo. Muito pequena, a rede quase não sai do lugar; muito grande, o erro oscila ou explode.
- Lote: com lote 1 os passos são rápidos e barulhentos; com todos os dados, são suaves e lentos.
- Sobreajuste (overfitting) acontece quando a rede decora os pontos de treino, inclusive o ruído. O erro de treino continua caindo, mas o da validação para de cair e sobe. Poucos dados, muito ruído e redes grandes favorecem isso. Regularização e parar na melhor época (early stopping) ajudam.
- Seed: a mesma configuração com outra semente chega a resultados diferentes. Por isso, ao comparar dois modelos, é preciso repetir com várias seeds. Veja o simulador Significância entre modelos.