Entropía conjunta: Difference between revisions

Dadas dos variables aleatorias discretas <math>X</math> e <math>Y</math> de rango discreto y finito <math display="inline">X=\{x_1, x_2 ... x_n\}</math> e <math display="inline">Y=\{y_1, y_2 ... y_m\}</math> con funciones de probabilidad <math>p_x(x) = P(X=x)</math> y <math>p_y(y) = P(Y=y)</math>, se define la '''entropía conjunta''' de <math>X</math> e <math>Y</math> como la entropía de la variable aleatoria bidimensional <math>(X, Y)</math>, con rango discreto y finito <math>X \times Y = \{ f(x_i, y_i): x_i \in X; y_i \in Y\} </math> y función de probabilidad <math>p(x,y) = P(X=x, Y=y)</math><ref name=":0">López-García, C.; Fernández-Veiga, M. (2013). ''Teoría de la información y codificación.'' Santiago de Compostela: Andavira. </ref>.

== Relaciones con otras entropías ==

Se verifica, en general, que la entropía conjunta de dos variables aleatorias no puede superar a la suma de las [[Entropía o cantidad de información|entropías]] de dichas variables aleatorias consideradas por separado<ref name=":0" />.

Siendo condición necesaria y suficiente que las variables aleatorias  <math>X</math> e <math>Y</math> sean independientes entre sí para que se cumpla que

=== Relación con la entropía condicional ===

La [[Draft:Entropía condicional|entropía condicional]] <math>H(X|Y)  </math>, entendida como la incertidumbre de <math>X</math> cuando <math>Y</math> es conocida, se relaciona con la entropía conjunta mediante la siguiente expresión, conocida como ''regla de la cadena''<ref name=":0" />:

Si las variables <math>X</math> e <math>Y</math> son independientes, tenemos que <math>H(Y|X)=H(Y)  </math> y <math>H(X|Y)=H(X)  </math>, corroborando la igualdad citada en el teorema anterior.

==Código==

% Definir dos variables aleatorias discretas

X = [1, 2, 3]; % Valores posibles para la variable X

==Referencias ==

<references />