互信息公式

互信息的公式可以表示為I(X；Y)=ΣΣp(x，y)log(p(x，y) / (p(x) * p(y)))，或者I(X；Y)=H(X) - H(X|Y)=H(Y) - H(Y|X)，其中I(X；Y)表示變數X和Y之間的互信息，p(x，y)表示變數X和Y同時發生的機率，p(x)和p(y)分別表示變數X和Y各自發生的機率。

互信息的值越大，表示兩個變數之間的相關性越強；值為零則表示兩個變數之間沒有相關性；值為負則表示兩個變數之間存在一定的反相關性。