Élagage et profondeur

Moins profond = plus robuste

max_depth, min_samples_leaf, ccp_alpha : trois freins contre le surapprentissage. On les choisit sur validation/CV, jamais à l'œil sur test. Un arbre seul reste instable : changer 5 % du train peut changer sa racine.

Transition

C'est cette instabilité qui motive le bagging : moyenner des arbres instables et divers réduit la variance sans toucher au biais. D'où les forêts juste après.