R
这里以R中自带的数据集kyphosis为例。根据Age、Number、Start三个变量对kyphosis进行分类。#程序包library(rpart)library(rpart.plot)library(rattle)#数据data(kyphosis)head(kyphosis)
定义参数并建立模型。#参数control <- rpart.control(minsplit=10,minbucket=5,xval=10,cp=0.1)#决策树模型model<- rpart(Kyphosis ~ Age + Number + Start, data = kyphosis,method='class',control=control, parms = list(prior = c(0.6,0.4), split = 'information'))
查看模型结果。summary可以查看模型的详细过程。summary(model)asRules(model)
绘制决策树图。可以从图中看到每一类的观测数及占总数的比例。fancyRpartPlot(model)
查看交叉验证结果，并绘图。model$cptableplotcp(model)grid() 可以看到结果中有交叉验证的估计误差（“xerror”），以及标准误差(“xstd”)，平均相对误差=xerror±xstd 。
根据交叉验证结果，找出估计误差最小时的cp值，并重新建立模型。#选择交叉验证的估计误差最小时对应的cpxerr <-model$cptable[,'xerror']minxerr <- which.min(xerr)mincp <-model$cptable[minxerr, 'CP']#新模型model.prune <- prune(model,cp=mincp)fancyRpartPlot(model.prune)