相互情報量

• 相互情報量のWiki
• Rでは、

library(infotheo)
x <- runif(100)
y <- runif(100)
xy <- cbind(x,y)
# マス目に分割して計算する
discr.xy <- discretize(xy)
# xとyとが対応があって、その相互情報量
I <- mutinformation(discr.xy[,1],discr.xy[,2])
t <- seq(from=0,to=1,length=100)
x <- sin(t)
y <- cos(10*t)
plot(x,y)
jit.x <- jitter(x,40)
jit.y <- jitter(y,60)
plot(jit.x,jit.y)
discr.jit.xy <- discretize(cbind(jit.x,jit.y))
mutinformation(discr.jit.xy[,1],discr.jit.xy[,2])
cor(jit.x,jit.y)
acos(cor(jit.x,jit.y))/(pi/2)