Distributions Discrètes Clés

Les mathématiques de l'incertitude

Une poignée de distributions nommées couvre la plupart des situations discrètes en ML. Chacune est une PMF prête à l'emploi avec moyenne et variance connues, pour que vous saisissiez la bonne au lieu de tout re-dériver.

Bernoulli(p) modélise une épreuve avec deux résultats : succès (1) avec probabilité p, échec (0) avec probabilité 1−p. C'est le bloc de construction dont toute autre distribution discrète est faite.

Deux décomptes quotidiens illustrent les principales distributions. Lancez une pièce 10 fois et comptez les faces : ce décompte est Binomial, une somme de 10 essais indépendants oui/non. Comptez maintenant les appels téléphoniques qu'un centre d'assistance reçoit en une heure : ce décompte est de Poisson, la loi pour les événements rares parsemés dans le temps, avec un seul taux λ qui fait office à la fois de sa moyenne et de sa variance.

Où cela apparaît en MLQuand vous choisissez une loss de classification, vous choisissez vraiment l'une de ces distributions. L'entropie croisée binaire est la log-vraisemblance négative d'une Bernoulli : elle évalue la probabilité unique d'un modèle face à un label 0/1. L'entropie croisée multi-classe est la log-vraisemblance négative d'une Catégorielle, la sortie softmax évaluée face à un label one-hot. La loss que…
▶ Distributions Discrètes Clés
← VariancePDF & CDF →