信息变差

$$I_{0\infty }=H_0-H_{\infty }$$

只考虑单个字符频率与考虑所有上下文关联之间的信息量差异