Compromis biais-variance

Erreur = biais² + variance + bruit

Modèle trop simple : biais fort, il rate même en train (sous-ajustement). Modèle trop riche : variance forte, il colle au bruit du train et casse en test (sur-ajustement). Le bruit incompressible reste.

Levier

Complexité, régularisation, quantité de données, validation croisée : tout le cursus ne fait que régler ce curseur honnêtement. Retenez la courbe en U de l'erreur test quand la complexité augmente.