Entropie croisée

Carte Peu commune · n° 169464

L'entropie croisée entre deux distributions de probabilité p et q mesure le nombre moyen de bits nécessaires pour coder des événements provenant d'une distribution réelle p, en utilisant un système de codage basé sur une distribution q. L'entropie croisée pour deux distributions p {\displaystyle p} et q {\displaystyle q} sur le même espace probabilisé est définie de la façon suivante : H ( p , q ) = E p [ − log ⁡ q ] = H ( p ) + D K L ( p ‖ q )...

Lire sur Wikipédia