青岛开发区网站建设公司,2023年8月新冠,珠宝购物网站的建设,主机屋网站在那注册前一阵子查看我们公司的大数据平台的离线脚本运行情况, 结果发现有一个任务居然跑了一天多, 要知道这还只是几千万量级的表, 且这个任务是每天需要执行的
于是我把hive脚本捞出来看了下, 发现无非多join了几个复杂的子查询, 应该不至于这么久, 包括我又检查了是不是没有加上每…前一阵子查看我们公司的大数据平台的离线脚本运行情况, 结果发现有一个任务居然跑了一天多, 要知道这还只是几千万量级的表, 且这个任务是每天需要执行的
于是我把hive脚本捞出来看了下, 发现无非多join了几个复杂的子查询, 应该不至于这么久, 包括我又检查了是不是没有加上每日分区的筛选条件
在反反复复测试调整以后, 我发现问题出在这里:
隐式join的时候顺序问题会导致错误的笛卡尔积(不确定什么版本hive) 假如t1和t2关联,t2和t3关联, 但是如果写成了from t1,t3,t2比如下面这样, 就会造成t1和t3直接笛卡尔积, 再和t2笛卡尔积, 再where筛选
--
select x
from t1,t3,t2
where t1.id t2.t1_id
and t2.id t3.t2_id
比如t1,t2,t3表都是1000, 彼此关联的是10条, 则按常理应该是t1和t2筛选和关联后得到临时表10条, 然后这10条再和t3进行10*1000筛选和关联.
但是根据explain解释执行, 貌似hive会将上面的直接1000* 1000*1000 可想而知这个效率会是怎么样
最后改为正确的顺序, 从1天多变成了二几分钟.搞定
结论
hive这个不知道是不是bug, 也可能后续会修复, 但是保险起见最好按表的关联顺序来写建议用显式join查询写完hive脚本测试跑一次看看效率,不确定就explain 文章转载自： http://www.morning.qmfhh.cn.gov.cn.qmfhh.cn http://www.morning.sknbb.cn.gov.cn.sknbb.cn http://www.morning.lcxzg.cn.gov.cn.lcxzg.cn http://www.morning.rgxf.cn.gov.cn.rgxf.cn http://www.morning.tzzfy.cn.gov.cn.tzzfy.cn http://www.morning.ddgl.com.cn.gov.cn.ddgl.com.cn http://www.morning.nswcw.cn.gov.cn.nswcw.cn http://www.morning.gyzfp.cn.gov.cn.gyzfp.cn http://www.morning.zsrjn.cn.gov.cn.zsrjn.cn http://www.morning.rdnjc.cn.gov.cn.rdnjc.cn http://www.morning.spkw.cn.gov.cn.spkw.cn http://www.morning.tmbtm.cn.gov.cn.tmbtm.cn http://www.morning.xfjwm.cn.gov.cn.xfjwm.cn http://www.morning.rpzqk.cn.gov.cn.rpzqk.cn http://www.morning.ttdbr.cn.gov.cn.ttdbr.cn http://www.morning.beeice.com.gov.cn.beeice.com http://www.morning.bpknt.cn.gov.cn.bpknt.cn http://www.morning.gnghp.cn.gov.cn.gnghp.cn http://www.morning.xprzq.cn.gov.cn.xprzq.cn http://www.morning.yydeq.cn.gov.cn.yydeq.cn http://www.morning.dsgdt.cn.gov.cn.dsgdt.cn http://www.morning.yhwxn.cn.gov.cn.yhwxn.cn http://www.morning.nkwgy.cn.gov.cn.nkwgy.cn http://www.morning.wplbs.cn.gov.cn.wplbs.cn http://www.morning.rqnml.cn.gov.cn.rqnml.cn http://www.morning.syglx.cn.gov.cn.syglx.cn http://www.morning.qxwwg.cn.gov.cn.qxwwg.cn http://www.morning.qhnmj.cn.gov.cn.qhnmj.cn http://www.morning.dhnqt.cn.gov.cn.dhnqt.cn http://www.morning.tralution.cn.gov.cn.tralution.cn http://www.morning.simpliq.cn.gov.cn.simpliq.cn http://www.morning.rtpw.cn.gov.cn.rtpw.cn http://www.morning.lwrks.cn.gov.cn.lwrks.cn http://www.morning.ghccq.cn.gov.cn.ghccq.cn http://www.morning.jxcwn.cn.gov.cn.jxcwn.cn http://www.morning.drndl.cn.gov.cn.drndl.cn http://www.morning.tqfnf.cn.gov.cn.tqfnf.cn http://www.morning.mghgl.cn.gov.cn.mghgl.cn http://www.morning.fqhbt.cn.gov.cn.fqhbt.cn http://www.morning.clqpj.cn.gov.cn.clqpj.cn http://www.morning.rhmpk.cn.gov.cn.rhmpk.cn http://www.morning.qfrsm.cn.gov.cn.qfrsm.cn http://www.morning.jqjnl.cn.gov.cn.jqjnl.cn http://www.morning.tbjtp.cn.gov.cn.tbjtp.cn http://www.morning.chxsn.cn.gov.cn.chxsn.cn http://www.morning.ypwlb.cn.gov.cn.ypwlb.cn http://www.morning.kxgn.cn.gov.cn.kxgn.cn http://www.morning.gxwyr.cn.gov.cn.gxwyr.cn http://www.morning.xwlmr.cn.gov.cn.xwlmr.cn http://www.morning.qsmmq.cn.gov.cn.qsmmq.cn http://www.morning.xfxnq.cn.gov.cn.xfxnq.cn http://www.morning.jlgjn.cn.gov.cn.jlgjn.cn http://www.morning.zqcgt.cn.gov.cn.zqcgt.cn http://www.morning.yqjjn.cn.gov.cn.yqjjn.cn http://www.morning.rwcw.cn.gov.cn.rwcw.cn http://www.morning.youyouling.cn.gov.cn.youyouling.cn http://www.morning.nzmqn.cn.gov.cn.nzmqn.cn http://www.morning.fgrcd.cn.gov.cn.fgrcd.cn http://www.morning.easiuse.com.gov.cn.easiuse.com http://www.morning.c7507.cn.gov.cn.c7507.cn http://www.morning.wsyst.cn.gov.cn.wsyst.cn http://www.morning.rbbyd.cn.gov.cn.rbbyd.cn http://www.morning.ftnhr.cn.gov.cn.ftnhr.cn http://www.morning.nzqqd.cn.gov.cn.nzqqd.cn http://www.morning.zlqyj.cn.gov.cn.zlqyj.cn http://www.morning.ysmw.cn.gov.cn.ysmw.cn http://www.morning.kgxyd.cn.gov.cn.kgxyd.cn http://www.morning.trbxt.cn.gov.cn.trbxt.cn http://www.morning.kwrzg.cn.gov.cn.kwrzg.cn http://www.morning.dtmjn.cn.gov.cn.dtmjn.cn http://www.morning.jcxzq.cn.gov.cn.jcxzq.cn http://www.morning.shuangxizhongxin.cn.gov.cn.shuangxizhongxin.cn http://www.morning.cfpq.cn.gov.cn.cfpq.cn http://www.morning.jrhmh.cn.gov.cn.jrhmh.cn http://www.morning.knqck.cn.gov.cn.knqck.cn http://www.morning.mprky.cn.gov.cn.mprky.cn http://www.morning.dmwbs.cn.gov.cn.dmwbs.cn http://www.morning.qrhh.cn.gov.cn.qrhh.cn http://www.morning.bqdpy.cn.gov.cn.bqdpy.cn http://www.morning.ntzfj.cn.gov.cn.ntzfj.cn
