Dérivée 1D comme pente locale

Vitesse locale

Pour L(w) = (w - 3)², en w = 2 la perte vaut 1. En 2,01 elle vaut 0,9801. Pente approchée : (0,9801 - 1) / 0,01 = -1,99. La dérivée est la limite quand le pas tend vers 0 : ici L'(w) = 2 * (w - 3), soit -2 en 2.

Signe utile : pente négative veut dire qu'augmenter un peu w fait baisser L. C'est tout ce qu'utilise la descente de gradient.

Minimum et pente nulle

Au minimum w = 3, la pente vaut 0 : ni montée ni descente locale. Attention, pente nulle ne veut pas toujours dire minimum global : ça peut être un maximum local ou un plateau. D'où l'importance du convexe vu plus loin.