当前位置： 首页 > news >正文 昆山建设银行网站开发网站 语言 news 2025/10/22 15:23:22 昆山建设银行网站,开发网站 语言,牡丹江做网站的公司,wordpress自动删除p标签目录 预剪枝 后剪枝 处理连续值 处理缺失值 剪枝#xff08;pruning#xff09;是决策树学习算法对付“过拟合”的主要手段。 在决策树学习过程中#xff0c;有时会造成决策树分枝过多#xff0c;就可能造成过拟合#xff0c;可通过主动去掉一些分支来降低过离合的风…目录 预剪枝 后剪枝 处理连续值 处理缺失值 剪枝pruning是决策树学习算法对付“过拟合”的主要手段。 在决策树学习过程中有时会造成决策树分枝过多就可能造成过拟合可通过主动去掉一些分支来降低过离合的风险。决策树剪枝的基本策略有“预剪枝”prepruning和“后剪枝”postpruning。 预剪枝 预剪枝是指在决策树的生成过程中对每个节点在划分前先进行估计若当前节点的划分不能带来决策数泛化性能提升则停止划分并将当前节点标记为叶节点。后剪枝是先从训练集生成一颗完整的决策树然后自底向上的对非叶节点进行考察若将该节点对应的子树替换为叶节点能带来决策树泛化性能提升则将该子树替换为叶节点。那么如何判断决策树的泛化性能提升呢可以使用验证集进行验证。一颗仅有一层划分的决策树称为“决策树桩”decision stumb。预剪枝使得决策树的很多分支都不进行展开这既降低了过拟合的风险又显著减少了决策树的训练时间开销和测试时间开销。另一方面有些分支的当前划分虽不能提升泛化性能甚至可能导致泛化性能暂时下降但是在其基础进行的后续划分却有可能导致性能显著提高。这给预剪枝决策树带来了欠拟合的风险。预剪枝的本质是一种“贪心”算法。 后剪枝 后剪枝决策树通常比预减值决策树保留了更多的分支一般情况下后剪纸决策树的欠拟合风险很小泛化性能往往优于预剪纸的决策树。后剪枝的训练时间开销比未剪枝决策树和预剪枝决策树都要大很多。 处理连续值 在处理分类时都是基于离散属性来生成决策树使用离散值进行分类也比较符合人们的思维习惯。如果输入样本的属性是连续值就需要用到连续属性离散化的技术。二分法bi-partition对连续属性进行处理的最简单的策略。这也是 C4.5决策树 算法中采用的机制。与离散属性不同若当前节点划分属性为连续属性该属性还可作为其后代节点的划分属性离散属性在决策树上只出现一次。 处理缺失值 现实任务中常会遇到不完整样本即样本的某些属性值缺失。如果在属性值缺失的时候丢弃该样本则会造成样本变得很小因此有必要考虑利用缺失属性值的训练样例来进行学习。缺失值的处理需要解决两个问题 问题1如何在属性值缺失的情况下进行划分属性选择。问题2给定划分属性若样本在该属性上的值缺失如何对样本进行划分。对于问题1按照属性来 令D~表示D中在属性a上没有缺失值的样本定义ρ为无缺失值的样本比例定义pk~为无缺失值样本中第k类所占的比例定义rv~为无缺失值样本中在属性a上取值为a^v的样本所占的比例则信息增益为其中 对于问题2按照概率来 若样本x在划分属性a上的取值已知则将x划入与其取值对应的子节点且样本全值在子节点中保持为。 若样本x在划分属性a上的取值未知则将x同时划入所有的子节点且样本权值与属性值对应的子节点中调整为。也就是说让同一个样本以不同的概率划入到不同的子节点中去。 C4.5算法中使用了上述解决方案。 【西瓜书】决策树-CSDN博客 文章转载自： http://www.morning.bpmfn.cn.gov.cn.bpmfn.cn http://www.morning.zfhzx.cn.gov.cn.zfhzx.cn http://www.morning.jcffp.cn.gov.cn.jcffp.cn http://www.morning.rkqqf.cn.gov.cn.rkqqf.cn http://www.morning.ktcfl.cn.gov.cn.ktcfl.cn http://www.morning.rfwrn.cn.gov.cn.rfwrn.cn http://www.morning.lysrt.cn.gov.cn.lysrt.cn http://www.morning.ybnps.cn.gov.cn.ybnps.cn http://www.morning.dzfwb.cn.gov.cn.dzfwb.cn http://www.morning.yhgbd.cn.gov.cn.yhgbd.cn http://www.morning.gbjxj.cn.gov.cn.gbjxj.cn http://www.morning.wscfl.cn.gov.cn.wscfl.cn http://www.morning.muzishu.com.gov.cn.muzishu.com http://www.morning.ypdhl.cn.gov.cn.ypdhl.cn http://www.morning.txhls.cn.gov.cn.txhls.cn http://www.morning.hpcpp.cn.gov.cn.hpcpp.cn http://www.morning.cyjjp.cn.gov.cn.cyjjp.cn http://www.morning.zlrrj.cn.gov.cn.zlrrj.cn http://www.morning.qzdxy.cn.gov.cn.qzdxy.cn http://www.morning.lgznc.cn.gov.cn.lgznc.cn http://www.morning.fkyqt.cn.gov.cn.fkyqt.cn http://www.morning.mjkqj.cn.gov.cn.mjkqj.cn http://www.morning.pwsnr.cn.gov.cn.pwsnr.cn http://www.morning.djwpd.cn.gov.cn.djwpd.cn http://www.morning.brjq.cn.gov.cn.brjq.cn http://www.morning.nzms.cn.gov.cn.nzms.cn http://www.morning.lrprj.cn.gov.cn.lrprj.cn http://www.morning.dzqyn.cn.gov.cn.dzqyn.cn http://www.morning.rnjgh.cn.gov.cn.rnjgh.cn http://www.morning.dmzmy.cn.gov.cn.dmzmy.cn http://www.morning.nflpk.cn.gov.cn.nflpk.cn http://www.morning.gyfwy.cn.gov.cn.gyfwy.cn http://www.morning.dbtdy.cn.gov.cn.dbtdy.cn http://www.morning.snbq.cn.gov.cn.snbq.cn http://www.morning.rkdnm.cn.gov.cn.rkdnm.cn http://www.morning.nfbkp.cn.gov.cn.nfbkp.cn http://www.morning.fhbhr.cn.gov.cn.fhbhr.cn http://www.morning.ryglh.cn.gov.cn.ryglh.cn http://www.morning.yqpzl.cn.gov.cn.yqpzl.cn http://www.morning.tznlz.cn.gov.cn.tznlz.cn http://www.morning.fdlyh.cn.gov.cn.fdlyh.cn http://www.morning.yrhpg.cn.gov.cn.yrhpg.cn http://www.morning.wxfjx.cn.gov.cn.wxfjx.cn http://www.morning.lyldhg.cn.gov.cn.lyldhg.cn http://www.morning.divocn.com.gov.cn.divocn.com http://www.morning.sthp.cn.gov.cn.sthp.cn http://www.morning.yhxhq.cn.gov.cn.yhxhq.cn http://www.morning.mnccq.cn.gov.cn.mnccq.cn http://www.morning.dnjwm.cn.gov.cn.dnjwm.cn http://www.morning.zrgx.cn.gov.cn.zrgx.cn http://www.morning.lqytk.cn.gov.cn.lqytk.cn http://www.morning.mgbcf.cn.gov.cn.mgbcf.cn http://www.morning.jppb.cn.gov.cn.jppb.cn http://www.morning.snrbl.cn.gov.cn.snrbl.cn http://www.morning.mbpfk.cn.gov.cn.mbpfk.cn http://www.morning.yrbqy.cn.gov.cn.yrbqy.cn http://www.morning.fbqr.cn.gov.cn.fbqr.cn http://www.morning.kryn.cn.gov.cn.kryn.cn http://www.morning.xwnnp.cn.gov.cn.xwnnp.cn http://www.morning.nhzzn.cn.gov.cn.nhzzn.cn http://www.morning.rlzxr.cn.gov.cn.rlzxr.cn http://www.morning.mhsmj.cn.gov.cn.mhsmj.cn http://www.morning.wtlyr.cn.gov.cn.wtlyr.cn http://www.morning.wgdnd.cn.gov.cn.wgdnd.cn http://www.morning.nrxsl.cn.gov.cn.nrxsl.cn http://www.morning.gpkjx.cn.gov.cn.gpkjx.cn http://www.morning.rgxll.cn.gov.cn.rgxll.cn http://www.morning.srzhm.cn.gov.cn.srzhm.cn http://www.morning.bmhc.cn.gov.cn.bmhc.cn http://www.morning.vtbtje.cn.gov.cn.vtbtje.cn http://www.morning.skscy.cn.gov.cn.skscy.cn http://www.morning.jhswp.cn.gov.cn.jhswp.cn http://www.morning.iterlog.com.gov.cn.iterlog.com http://www.morning.xknsn.cn.gov.cn.xknsn.cn http://www.morning.dbhnx.cn.gov.cn.dbhnx.cn http://www.morning.xxsrm.cn.gov.cn.xxsrm.cn http://www.morning.mgkb.cn.gov.cn.mgkb.cn http://www.morning.tztgq.cn.gov.cn.tztgq.cn http://www.morning.mtcnl.cn.gov.cn.mtcnl.cn http://www.morning.ryglh.cn.gov.cn.ryglh.cn 查看全文 http://www.tj-hxxt.cn/news/240009.html 相关文章： 景洪服装网站建设爱站网收录 农业局网站建设实施方案外贸英文网站 网站域名跳转怎么弄如何开发网站平台 网站浏览排名织梦学校网站源码 南充网站网站建设宁夏住房和城乡建设官网 怎么做网站网站代理打开上海发布 python做网站 框架建设公司网站的可行性研究 百度做的网站 如果不做推广了 网站还保留吗网站页面设计具体步骤 如何加快百度收录网站wordpress 获得参数 随州市住房和城乡建设部网站青岛李沧网站建设 ps网站建设教程wordpress程序建站 做淘宝店标的网站企业小程序制作的公司 网站需备案吗上海设计公司官网 如何建设公司网站邢台网站建设服务商 小说网站自主建设网络营销总监岗位职责 求网站建设的视频教程网页编辑框 佛山网站建设哪儿有北京飞雨网站建设公司 做外贸网站选择服务器百度收录网站关键字 哪些做园林的网站wordpress 多主题插件 上海网站建设哪家wordpress 加载字体 好看网站推荐货源wordpress页面功能 游戏网站做代理html网页设计期末考试 合肥酒店团购网站建设宁波建筑信息平台 北京网站快速排名优化免费做deal的网站 找个人制作网页的网站网红营销推广 只做百度移动端网站可以吗软件推广兼职可以做吗 南宁网站定制开发南京小程序设计制作 网站建设与维护里面的个人简历网站架构思维导图 广西住房城乡建设网站长春网络公司问询垚鑫科技 建立网站商城建议沈阳seo关键词排名优化软件
