Sigmoïde et probabilité

De z à proba

s(z) = 1 / (1 + exp(-z)), z = w·x + b. z = 0 → 0,5, z = 2 → 0,88, z = -2 → 0,12. La pente max en 0 (s' = s(1-s) = 0,25), quasi nulle aux extrêmes : d'où les saturations en deep.

Lecture

Sortie = P(y=1|x) sous hypothèses du modèle, pas une vérité. Décision = seuil + coûts (Bloc B). Une proba 0,51 et 0,99 donnent la même classe à seuil 0,5 mais pas la même confiance : d'où la calibration.