本文目录一览：
- 1、python数据加工，决策树，求助
- 2、如何将python生成的决策树利用graphviz画出来
- 3、python 怎么做决策树模型 案例
- 4、python中的sklearn中决策树使用的是哪一种算法
- 5、ML - 决策树(decision tree)
python数据加工，决策树，求助
new_case =[{'from': 'start','to': 'A'},{'from': 'A','to': 'B'},{'from': 'B','to': 'C'},
{'from': 'B','to': 'D'},{'from': 'start','to': 'F'},{'from': 'start','to': 'E'},
{'from': 'E','to': 'G'},{'from': 'E','to': 'C'},{'from': 'E','to': 'D'}]
L = []
def add_to_list(l, key_dic, dic_list):
l.append(key_dic['from'])
found = False
for dic in dic_list:
if(dic['from'] == key_dic['to']):
found = True;
add_to_list(l, dic, dic_list)
del l[-1]
if not found:
t = l[:] + [key_dic['to']]
L.append(t)
for dic in new_case:
if dic['from'] == 'start':
l = []
add_to_list(l, dic, new_case)
for i in L:
print(i)
如何将python生成的决策树利用graphviz画出来
# 这里有一个示例，你可以看一下。
#
from IPython.display import Image
dot_data = tree.export_graphviz(clf, out_file=None,
feature_names=iris.feature_names,
class_names=iris.target_names,
filled=True, rounded=True,
special_characters=True)
graph = pydotplus.graph_from_dot_data(dot_data)
Image(graph.create_png())
python 怎么做决策树模型 案例
Original values: (1, 'abc', 2.7)
Format string : I3sf
Uses : 12 bytes
Packed Value : 0100000061626300cdcc2c40
Unpacked Type : type 'tuple' Value: (1, 'abc', 2.700000047683716)
python中的sklearn中决策树使用的是哪一种算法
sklearn中决策树分为DecisionTreeClassifier和DecisionTreeRegressor，所以用的算法是CART算法，也就是分类与回归树算法(classification and regression tree,CART)，划分标准默认使用的也是Gini，ID3和C4.5用的是信息熵，为何要设置成ID3或者C4.5呢
ML - 决策树(decision tree)
机器学习中分类和预测算法的评估：
判定树是一个类似于流程图的树结构：其中，每个内部结点表示在一个 属性上的测试 ，每个分支代表一个 属性输出 ，而每个树叶结点代表 类或类分布 。树的最顶层是根结点。
机器学习中分类方法中的一个重要算法
信息和抽象，如何度量？
1948年，香农提出了 ”信息熵(entropy)“的概念
一条信息的信息量大小和它的不确定性有直接的关系，要搞清楚一件非常非常不确定的事情，或者
是我们一无所知的事情，需要了解大量信息== 信息量的度量就等于不确定性的多少
例子：猜世界杯冠军，假如一无所知，猜多少次？
每个队夺冠的几率不是相等的
比特(bit)来衡量信息的多少
变量的不确定性越大，熵也就越大
3.1 决策树归纳算法 （ ID3 ）
1970-1980， J.Ross. Quinlan, ID3算法
选择属性（A为age时）判断结点
信息获取量(Information Gain) ：
Gain(A) = Info(D) - Infor_A(D)
Gain(A) =按yes/no分的熵 - 按A属性分类的熵
通过A来作为节点分类获取了多少信息
类似
Gain(income) = 0.029
Gain(student) = 0.151
Gain(credit_rating)=0.048
所以，选择age作为第一个根节点
重复。。。
算法：
*其他算法：
C4.5 : Quinlan
Classification and Regression Trees (CART): (L. Breiman, J. Friedman, R. Olshen, C. Stone)
共同点：都是贪心算法，自上而下(Top-down approach)
区别：属性选择度量方法不同： C4.5 （gain ratio), CART(gini index), ID3 (Information Gain)
先剪枝
后剪枝
直观，便于理解，小规模数据集有效
处理连续变量不好（离散化，阈值选择对结果影响大）
类别较多时，错误增加的比较快
可规模性一般
1. Python
2. Python机器学习的库： scikit-learn
2.1： 特性：
简单高效的数据挖掘和机器学习分析
对所有用户开放，根据不同需求高度可重用性
基于Numpy, SciPy和matplotlib
开源，商用级别：获得 BSD许可
2.2 覆盖问题领域：
分类（classification), 回归（regression), 聚类（clustering), 降维(dimensionality reduction)
模型选择(model selection), 预处理(preprocessing)
3. 使用用scikit-learn
安装scikit-learn: pip, easy_install, windows installer
安装必要package：numpy， SciPy和matplotlib， 可使用 Anaconda (包含numpy, scipy等科学计算常用package）
4. 例子：
文档：
安装 Graphviz：
配置环境变量
转化dot文件至pdf可视化决策树：dot -Tpdf iris.dot -o outpu.pdf