Información mutua

Carta Común · N.º 326568

En teoría de la probabilidad, y en teoría de la información, la información mutua o transinformación o ganancia de información de dos variables aleatorias es una cantidad que mide la dependencia estadística entre ambas variables. Más precisamente, mide la información o reducción de la incertidumbre (entropía) de una variable aleatoria, X {\displaystyle X} , debido al conocimiento del valor de otra variable aleatoria Y {\displaystyle Y} .​ No se limita a variables en números reales ni a relaciones lineales, por lo que la información mutua es más general que el coeficiente de correlación de Pearson. La información mutua también puede entenderse como el valor esperado (la media) de la información mutua puntual, o como la diferencia de la distribución conjunta ( P ( X , Y ) {\displaystyle P(X,Y)} ) y el producto de las distribuciones…

Leer en Wikipedia