信息增益

信息熵 是代表随机变量的复杂度（不确定度），条件熵 代表在某一个条件下，随机变量的复杂度（不确定度）

信息增益 = 信息熵 - 条件熵

代表了在一个条件下，信息复杂度减少的程度