Como preámbulo no tan relacionado con la entrada: lo más posible es que continúe en la senda académica y me lance a perseguir un doctorado, aunque no en amplitudes de dispersión, como trabajé en mi proyecto de investigación de la maestría. Tengo varias opciones pero el que más me ilusiona es uno en información cuántica en sistemas abiertos, como sea ya escribiré sobre eso a su tiempo.
La entrada trata sobre el siguiente problema, que resolví durante un curso de teoría de información clásica y cuántica en Edimburgo:
Para mí, podemos empezar a distinguir dos variables aleatorias, la del clima y la de la predicción del clima de la radio:
\begin{align}X&\equiv\{r=\text{lluvia},\,nr=\text{no lluvia}\}\\
Y&\equiv\{R=\text{la radio predice lluvia},\,NR=\text{la radio predice no lluvia}\}\end{align} (la elección de las letras "r,R" por lluvia en inglés, "rain") de modo que lo que yo sé es
\begin{align}p(r)=0.8\,\Longrightarrow\,p(nr)=0.2\\
p(r|R)=1\,\Longrightarrow\,p(nr|R)=0\\
p(r,R)+p(nr,NR)=0.8\label{pro1}\end{align} y de aquí, utilizando la definición de la probabilidad condicional $p(x|y)\equiv{p(x,y)/p(y)}$ y las relaciones entre probabilidades relevantes podemos obtener más probabilidades; específicamente, interesan las probabilidades de los eventos $R$, $NR$ y $r|NR$, $nr|NR$.
Primero, se tiene
\begin{equation}p(r|R)=\frac{p(r,R)}{p(R)}=1\,\Longrightarrow\,p(R)=p(r,R)\end{equation} de modo que por (\ref{pro1}),
\begin{equation}p(R)=0.8-p(nr,NR)\end{equation} Ahora bien, por total de probabilidad, $p(nr)=p(nr,NR)+p(nr,R)$, entonces
\begin{equation}p(R)=0.6+p(nr,R)\end{equation} y dado que $p(nr|R)=0$ también $p(nr,R)=p(R)p(nr|R)=0$, por tanto
\begin{equation}\boxed{p(R)=0.6}\end{equation} y de donde se sigue también que
\begin{equation}\boxed{p(NR)=0.4}\end{equation} por $p(R)+p(NR)=1$. De manera similar se puede calcular
\begin{equation}\boxed{p(r|NR)=p(nr|NR)=0.5}\end{equation} Así pues, en palabras: la radio va a predecir lluvia el 60% del tiempo y al predecir que no lloverá se equivocará 50% del tiempo. Mi mejor estrategia es entonces seguir la predicción de la radio, lo tendré en lo correcto 60% del tiempo y el resto tendré un 50% de probabilidad de también acertar; como sea al final mi probabilidad de éxito será también de 80% por la ecuación (\ref{pro1}).
\begin{equation}H(X)\equiv-p(r)\log_2{p}(r)-p(nr)\log_2{p}(nr)\approx0.72\end{equation} y la entropía para el clima real dada mi predicción (i.e. la de la radio),
\begin{align}H(X|Y)&\equiv-\sum_{x\in{X},y\in{Y}}p(x,y)\log_2{p}(x|y)=-\sum_{x\in{X},y\in{Y}}p(y)p(x|y)\log_2{p}(x|y)=0.4\end{align} de modo que la información mutua entre mi predicción y el clima real es
\begin{equation}\boxed{I(X;Y)\equiv{H}(X)-H(X|Y)\approx0.32}\end{equation} Para el caso del abuelo podemos definir
\begin{equation}A\equiv\{aR=\text{lluvia},\,aN=\text{no lluvia}\}\end{equation} para sus predicciones. De este modo, si el abuelo sigue su mejor estrategia, $p(aR)=1$ y $p(aN)=0$, además $p(r,aR)=0.8$ y $p(nr,aR)=0.2$; con esto entonces podemos encontrar
\begin{equation}\boxed{H(X|A)=H(X)\,\Longrightarrow\,I(X;A)=0}\end{equation} Lo que esto significa es que por un lado, en el caso del abuelo, su predicción y el clima real no están correlacionados: conocer una no dice nada sobre la otra. A su vez, en mi caso hay una reducción de incertidumbre acerca del clima dada mi predicción (i.e. la del radio), o dicho de otro modo, puedo saber acerca del clima real futuro una vez que sé la predicción de la radio.
La entrada trata sobre el siguiente problema, que resolví durante un curso de teoría de información clásica y cuántica en Edimburgo:
Vale, lo primero que podemos ver es que el abuelo sólo sabe que lloverá 80% del tiempo, así que si elige predecir lluvia todos los días, estará en lo correcto 8 de 10 veces, de modo que ésta es su mejor estrategia.
Al visitar a tu abuelo en Escocia, decides proponerle un juego para probarle que la tecnología es útil. Cada tarde tú escuchas el pronóstico del clima en la radio y luego ambos, tú y tu abuelo, intentan adivinar si va a llover al día siguiente. Habiendo vivido en Escocia desde su nacimiento, tu abuelo sabe que llueve el 80% de los días. Tú has llegado a la misma conclusión en tus vacaciones previas. Tú también sabes que el pronóstico del clima es correcto el 80% del tiempo y que siempre es correcto cuando predice lluvia. ¿Cuál es la estrategia óptima para tu abuelo? ¿Y para ti?
Para mí, podemos empezar a distinguir dos variables aleatorias, la del clima y la de la predicción del clima de la radio:
\begin{align}X&\equiv\{r=\text{lluvia},\,nr=\text{no lluvia}\}\\
Y&\equiv\{R=\text{la radio predice lluvia},\,NR=\text{la radio predice no lluvia}\}\end{align} (la elección de las letras "r,R" por lluvia en inglés, "rain") de modo que lo que yo sé es
\begin{align}p(r)=0.8\,\Longrightarrow\,p(nr)=0.2\\
p(r|R)=1\,\Longrightarrow\,p(nr|R)=0\\
p(r,R)+p(nr,NR)=0.8\label{pro1}\end{align} y de aquí, utilizando la definición de la probabilidad condicional $p(x|y)\equiv{p(x,y)/p(y)}$ y las relaciones entre probabilidades relevantes podemos obtener más probabilidades; específicamente, interesan las probabilidades de los eventos $R$, $NR$ y $r|NR$, $nr|NR$.
Primero, se tiene
\begin{equation}p(r|R)=\frac{p(r,R)}{p(R)}=1\,\Longrightarrow\,p(R)=p(r,R)\end{equation} de modo que por (\ref{pro1}),
\begin{equation}p(R)=0.8-p(nr,NR)\end{equation} Ahora bien, por total de probabilidad, $p(nr)=p(nr,NR)+p(nr,R)$, entonces
\begin{equation}p(R)=0.6+p(nr,R)\end{equation} y dado que $p(nr|R)=0$ también $p(nr,R)=p(R)p(nr|R)=0$, por tanto
\begin{equation}\boxed{p(R)=0.6}\end{equation} y de donde se sigue también que
\begin{equation}\boxed{p(NR)=0.4}\end{equation} por $p(R)+p(NR)=1$. De manera similar se puede calcular
\begin{equation}\boxed{p(r|NR)=p(nr|NR)=0.5}\end{equation} Así pues, en palabras: la radio va a predecir lluvia el 60% del tiempo y al predecir que no lloverá se equivocará 50% del tiempo. Mi mejor estrategia es entonces seguir la predicción de la radio, lo tendré en lo correcto 60% del tiempo y el resto tendré un 50% de probabilidad de también acertar; como sea al final mi probabilidad de éxito será también de 80% por la ecuación (\ref{pro1}).
Por definición, la entropía para el clima real es
No habiendo ganado la apuesta, estudias teoría de información porque estás convencido de que tenías más información que tu abuelo. Asumiendo que sigues el pronóstico de la radio, calcula la información mutua entre tu predicción y el clima real, y haz lo mismo para tu abuelo para cuantificar tu expectación.
\begin{equation}H(X)\equiv-p(r)\log_2{p}(r)-p(nr)\log_2{p}(nr)\approx0.72\end{equation} y la entropía para el clima real dada mi predicción (i.e. la de la radio),
\begin{align}H(X|Y)&\equiv-\sum_{x\in{X},y\in{Y}}p(x,y)\log_2{p}(x|y)=-\sum_{x\in{X},y\in{Y}}p(y)p(x|y)\log_2{p}(x|y)=0.4\end{align} de modo que la información mutua entre mi predicción y el clima real es
\begin{equation}\boxed{I(X;Y)\equiv{H}(X)-H(X|Y)\approx0.32}\end{equation} Para el caso del abuelo podemos definir
\begin{equation}A\equiv\{aR=\text{lluvia},\,aN=\text{no lluvia}\}\end{equation} para sus predicciones. De este modo, si el abuelo sigue su mejor estrategia, $p(aR)=1$ y $p(aN)=0$, además $p(r,aR)=0.8$ y $p(nr,aR)=0.2$; con esto entonces podemos encontrar
\begin{equation}\boxed{H(X|A)=H(X)\,\Longrightarrow\,I(X;A)=0}\end{equation} Lo que esto significa es que por un lado, en el caso del abuelo, su predicción y el clima real no están correlacionados: conocer una no dice nada sobre la otra. A su vez, en mi caso hay una reducción de incertidumbre acerca del clima dada mi predicción (i.e. la del radio), o dicho de otro modo, puedo saber acerca del clima real futuro una vez que sé la predicción de la radio.
No comments:
Post a Comment