Draft:Tasa de entropia

Definición

El término hace referencia al ratio de crecimiento de la entropía en un proceso estocástico con una secuencia de n variables aleatorias.

Matemáticamente, se define la tasa de entropía H(χ) como:

$H(X)=\lim _{n\to \infty }{\dfrac {1}{n}}H(X_{1},X_{2},...,X_{N})$

siempre que exista dicho límite.

Cuando dicho límite existe, recibe el nombre de tasa de entropía del proceso estocástico.

Si dicho proceso estocástico es estacionario, entonces existe el $lim_{n\to \infty }{\dfrac {1}{n}}H(X_{1},X_{2},...,X_{N})$ y se cumple que:

$lim_{n\to \infty }{\dfrac {1}{n}}H(X_{1},X_{2},...,X_{N})$ = $lim_{n\to \infty }H(X_{n}|X_{n-1},X_{n-1},...,X_{1})$ 

esto significa que la tasa de entropía de un proceso estocástico estacionario es igual a la entropía condicional de la última variable aleatoria $X_{N}$ en función del resto de variables aleatorias del proceso.

Cadenas de Markov

Dentro de los procesos estocásticos, las cadenas de Markov resultan un caso particular.

Definición

Los procesos de Markov son aquellos procesos estocásticos en los que la probabilidad de un suceso $X_{t}$ en un instante $t$ depende únicamente de la probabilidad $X$_t-1 del instante inmediatamente anterior $t-1$

De forma matemática:

$P(X_{n}=x_{n}|X_{n-1}=x_{n-1},X_{n-2}=x_{n-2},...,X_{1}=x_{1})$=$P(X_{n}=x_{n}|X_{n-1}=x_{n-1})$

Probabilidad de transición en un paso

Se define como la probabilidad condicional de que se produzca la transición del estado $i$ en el instante de tiempo $n$, al estado $j$ en un instante de tiempo $n+1$.
Matemáticamente la expresión tiene la siguiente forma:

$P_{ij}$=$P(X_{n+1}=j|X_{n}=i)$

De la misma forma se puede aplicar esta expresión a la probabilidad de transición en $n$ pasos:

$P_{ij}^{(n)}$=$P(X_{m+n}=j|X_{m}=i)$

Clasificación de las cadenas de Markov

Cadenas de Markov irreducibles

Una cadena de Markov es irreducible cuando desde cada estado se puede alcanzar el resto de los estados.
Además, se denomina cerrado al subconjunto de dicha cadena si ninguno de sus estados se comunica con ninguno de los estados de cualquier otro subconjunto.

Cadenas de Markov periódicas

Siempre que el numero de pasos para alcanzar el estado $j$ sea un número $d$$(d>1)$ y sus múltiplos enteros, se dice que el estado es periódico. De lo contrario, se dice que es aperiódico.
En una cadena de Markov irreducible, o todos los estados son periódicos o todos son aperiódicos.

Recurrencia de los estados

La recurrencia de un estado es la probabilidad de que el primer regreso al estado $j$ se produzca exactamente después de $n$ instantes de tiempo.
Matemáticamente:

$f_{j}$=$\sum _{n=1}^{\infty }f_{j}^{(n)}$

En función del valor de $f_{j}$ se pueden clasificar los estados de una cadena de Markov en:

• Recurrentes, si $f_{j}=1$
• Transitorios, si $f_{j}<1$
  

Cabe destacar que en una cadena de Markov de estados finitos no todos os estados pueden ser transitorios, ya que de ser así, pasado cierto tiempo no habría ningún estado al que transicionar, cosa imposible. por lo tanto, en una cadena de Markov irreducible de estados finitos, todos los estados son recurrentes.

Para los estados recurrentes se puede calcular el tiempo medio de recurrencia de un estado $j$ como:

$T_{j}$=$\sum _{n=1}^{\infty }nf_{j}^{(n)}$

En función del valor de $T_{j}$, se pueden clasificar los estados recurrentes en:

• Recurrentes positivos, si $T_{j}<\infty$
• Recurrentes nulos, en caso contrario
  

Cadenas de Markov ergódicas

Cuando en un estado se dan las circunstancias de que sea aperiódico y recurrente positivo, se dice que dicho estado es ergódico. Para que una cadena de Markov sea ergódica, todos sus estados tienen que serlo.

Referencias

• García, C. L., & Veiga, M. F. (2013). Teoría de la información y codificación, 2a ed.
• Ratio de entropía. (2012, marzo). Ratio de entropía. https://es.wikipedia.org/w/index.php?title=Ratio_de_entrop%C3%ADa&action=info
• Torres Agudo, J. J. (s/f). Lección 3: Procesos de Markov. UGR. Recuperado noviembre de 2024, de https://www.ugr.es/~jtorres/leccion3