基尼不纯度：衡量集合的无序程度；

基尼不纯度

基尼不纯度：将来自集合的某种结果随机应用于某一数据项的预期误差率。

1、显然基尼不纯度越小，纯度越高，集合的有序程度越高，分类的效果越好；

2、基尼不纯度为 0 时，表示集合类别一致；

3、基尼不纯度最高（纯度最低）时，f1=f2=…=fm=1/m

例，如果集合中的每个数据项都属于同一分类，此时误差率为 0。如果有四种可能的结果均匀地分布在集合中，此时的误差率为 1−0.25=0.75；

from  collections import Counter
import operator

def calcGini(dataSet):
    labelCounts = Counter(sample[-1] for sample in dataSet)
    prob = [float(v)/sum(labelCounts.values()) for v in labelCounts.values()]
    return 1 - reduce(operator.add, map(lambda x: x**2, prob))