Probabilité conditionnelle et Bayes

Le bon sens de la flèche

P(spam | mot) n'est pas P(mot | spam). Bayes les relie :

P(spam | mot) = P(mot | spam) * P(spam) / P(mot)

Exemple : P(mot|spam) = 0,4, P(spam) = 0,2, P(mot) = 0,1 donne 0,8. Même mot très suspect chez les spams, si le spam est rare le message reste incertain : c'est l'erreur base-rate à ne jamais oublier en classification.

Usage ML

Naive Bayes, calibration, seuils de décision : tous viennent de là. Retenez : une probabilité prédite n'est une décision que couplée à un seuil et un coût d'erreur.