当前位置:首页 > 数码 >

内存占用率忽高忽低怎么解决

来源:原点资讯(www.yd166.com)时间:2024-07-24 16:55:10作者:YD166手机阅读>>

本文分享自华为云社区《》,作者: O泡果奶~。

当前DM(P1、P3、CBGDM)存在维度表与主表关联时使用会计期作为关联条件,会导致出现大内存占用未识别数据倾斜的问题

【场景一】f.period_id = 维度表.period_id1.1、【问题描述】

主表和维度表关联过程中将会计期作为关联条件,导致维度表未进行分区剪枝,可能会产生大内存占用的情况

1.2、【原始SQL】

仅呈现SQL中的问题,详细SQL见附件

FROM DMACC.dm_adp_ar_trx_dtl_tmp F INNER JOIN DMDIM.DM_DIM_REGION_RC_D REG ON F.COA_GEO_PC_KEY = REG.GEO_PC_KEY INNER JOIN DMDIM.DM_DIM_PRODUCT_T_D T9 ON F.PROD_KEY = T9.PROD_KEY AND T9.PROD_POV_ID = 1 INNER JOIN DMDIM.DM_DIM_PROJECT_D J ON F.PROJ_KEY = J.PROJ_KEY INNER JOIN DMDIM.DM_DIM_CONTRACT_D HT ON HT.CONTRACT_KEY = F.CONTRACT_KEY LEFT JOIN DMCOMMON.DWR_CONFIG_DOMESTIC_FINANCE_V FIN ON F.COA_COMPANY_KEY = FIN.COMPANY_KEY AND F.COA_GEO_PC_KEY = FIN.GEO_PC_KEY left join DMAR.DWB_FMD_DIM_INVOICE_PAY_PLAN_D PP ON F.AR_INVOICE_PAY_PLAN_ID = PP.AR_INVOICE_PAY_PLAN_ID AND F.PERIOD_ID = PP.PERIOD_ID LEFT JOIN DMARDI.DWR_DIM_AR_INVOICE_V INV ON F.AR_INVOICE_ID = INV.AR_INVOICE_ID INNER JOIN DMARDI.DWR_DIM_AR_APPLICATION_V APP ON F.AR_APPLICATION_RECORD_ID = APP.AR_APPLICATION_RECORD_ID INNER JOIN DMARDI.DWR_DIM_AR_RECEIPT_V RCP ON F.AR_RECEIPT_RECORD_ID = RCP.AR_RECEIPT_RECORD_ID INNER JOIN DMARDI.DWR_DIM_AR_RECEIPT_TYPE_V RT ON RCP.RECEIPT_RECORD_TYPE_ID = RT.AR_RECEIPT_TYPE_ID LEFT JOIN ( SELECT C .CONTRACT_KEY, D.COMPANY_KEY, R.FIRST_SHIP_DATE FROM DMDIM.dm_dim_contract_d C, DMDIM.DM_DIM_COMPANY_D D, DMARDI.DWR_CTRCT_FIRST_SHIP_DATE_R R WHERE C.CONTRACT_ID = R.CONTRACT_ID AND D.COMPANY_ID = R.COMPANY_ID ) FR ON F.CONTRACT_KEY = FR.CONTRACT_KEY AND F.COA_COMPANY_KEY = FR.COMPANY_KEY INNER JOIN DMDIM.DM_DIM_SALES_MODE_D MO ON F.SALES_MODE_KEY = MO.SALES_MODE_KEY JOIN DMDIM.DM_DIM_JOURNAL_SOURCE_D T29 ON F.JE_SOURCE_ID = T29.JE_SOURCE_ID JOIN DMDIM.DM_DIM_JOURNAL_CATEGORY_D T30 ON F.JE_CATEGORY_ID = T30.JE_CATEGORY_ID 1.3、【性能分析】

内存占用率忽高忽低怎么解决,(1)

内存占用率忽高忽低怎么解决,(2)

内存占用率忽高忽低怎么解决,(3)


从上图的执行计划可以看出,由于用会计期作为关联条件,导致维度表未进行分区剪枝,数据量大,不但产生了数据倾斜,同时还由于数据量大出现了关联下盘,大大降低了sql执行性能。

主表只有一个会计期,可以识别出对应的会计期,然后对SQL进行如下改写:

FROM DMACC.dm_adp_ar_trx_dtl_tmp F INNER JOIN DMDIM.DM_DIM_REGION_RC_D REG ON F.COA_GEO_PC_KEY = REG.GEO_PC_KEY INNER JOIN DMDIM.DM_DIM_PRODUCT_T_D T9 ON F.PROD_KEY = T9.PROD_KEY AND T9.PROD_POV_ID = 1 INNER JOIN DMDIM.DM_DIM_PROJECT_D J ON F.PROJ_KEY = J.PROJ_KEY INNER JOIN DMDIM.DM_DIM_CONTRACT_D HT ON HT.CONTRACT_KEY = F.CONTRACT_KEY LEFT JOIN DMCOMMON.DWR_CONFIG_DOMESTIC_FINANCE_V FIN ON F.COA_COMPANY_KEY = FIN.COMPANY_KEY AND F.COA_GEO_PC_KEY = FIN.GEO_PC_KEY LEFT JOIN DMAR.DWB_FMD_DIM_INVOICE_PAY_PLAN_D PP ON F.AR_INVOICE_PAY_PLAN_ID = PP.AR_INVOICE_PAY_PLAN_ID AND PP.PERIOD_ID = '202406' LEFT JOIN DMARDI.DWR_DIM_AR_INVOICE_V INV ON F.AR_INVOICE_ID = INV.AR_INVOICE_ID INNER JOIN DMARDI.DWR_DIM_AR_APPLICATION_V APP ON F.AR_APPLICATION_RECORD_ID = APP.AR_APPLICATION_RECORD_ID INNER JOIN DMARDI.DWR_DIM_AR_RECEIPT_V RCP ON F.AR_RECEIPT_RECORD_ID = RCP.AR_RECEIPT_RECORD_ID INNER JOIN DMARDI.DWR_DIM_AR_RECEIPT_TYPE_V RT ON RCP.RECEIPT_RECORD_TYPE_ID = RT.AR_RECEIPT_TYPE_ID LEFT JOIN ( SELECT C .CONTRACT_KEY, D.COMPANY_KEY, R.FIRST_SHIP_DATE FROM DMDIM.dm_dim_contract_d C, DMDIM.DM_DIM_COMPANY_D D, DMARDI.DWR_CTRCT_FIRST_SHIP_DATE_R R WHERE C.CONTRACT_ID = R.CONTRACT_ID AND D.COMPANY_ID = R.COMPANY_ID ) FR ON F.CONTRACT_KEY = FR.CONTRACT_KEY AND F.COA_COMPANY_KEY = FR.COMPANY_KEY INNER JOIN DMDIM.DM_DIM_SALES_MODE_D MO ON F.SALES_MODE_KEY = MO.SALES_MODE_KEY JOIN DMDIM.DM_DIM_JOURNAL_SOURCE_D T29 ON F.JE_SOURCE_ID = T29.JE_SOURCE_ID JOIN DMDIM.DM_DIM_JOURNAL_CATEGORY_D T30 ON F.JE_CATEGORY_ID = T30.JE_CATEGORY_ID

经优化后,执行计划如下图所示,维度表进行了分区剪枝,数据量减少,缓解了数据倾斜,也避免了关联下盘的问题。

内存占用率忽高忽低怎么解决,(4)

首页 123下一页

栏目热文

凌霄在新加坡几年(凌霄什么时候从新加坡回来)

凌霄在新加坡几年(凌霄什么时候从新加坡回来)

电视剧《以家人之名》正在芒果台热播,最新播出的剧情中,宋威龙饰演的凌霄和杨童舒饰演的妈妈陈婷在新加坡家中的两段交谈让人不...

2024-07-24 16:46:59查看全文 >>

以家人之名凌霄为什么要出国(以家人之名凌霄几年后回国)

以家人之名凌霄为什么要出国(以家人之名凌霄几年后回国)

最近天天上微博热搜的热播剧《以家人之名》,大家都追了吗?剧中那两位让无数少女都想Get的高颜值同款哥哥,简直不要太吸粉~...

2024-07-24 16:15:15查看全文 >>

啥颜色牛仔裤搭配什么上衣

啥颜色牛仔裤搭配什么上衣

虽说牛仔裤是休闲装扮必不可少的,可是现在,随着牛仔裤的颜色繁多,在通勤和与正式时装的搭配,也越来越多,说明,牛仔裤已经走...

2024-07-24 16:54:57查看全文 >>

牛仔裤哪种颜色好搭配衣服(牛仔裤一般搭配什么颜色衣服好看)

牛仔裤哪种颜色好搭配衣服(牛仔裤一般搭配什么颜色衣服好看)

论起时装界的常青藤,穿搭中的万人迷。牛仔裤绝对是绕不开、躲不掉的话题,它负有盛名的经久不衰,不仅具有独当一面的时尚气息,...

2024-07-24 16:42:09查看全文 >>

牛仔裤哪种颜色好搭配(牛仔裤哪一款颜色更好搭配呢)

牛仔裤哪种颜色好搭配(牛仔裤哪一款颜色更好搭配呢)

那些被你忽略的关于牛仔裤的绝妙搭配春天到了,离给双腿放风还远吗?没过多久就会到破洞牛仔裤的季节了,不知道今年的你对牛仔裤...

2024-07-24 16:51:12查看全文 >>

电热蚊香片正确使用方法视频(电热蚊香片正反正确方法)

电热蚊香片正确使用方法视频(电热蚊香片正反正确方法)

小余生活。蚊香是夏日必备的驱蚊神器,今天才知道原来把蚊香放到钳子上面夹住居然这么好用,了解清楚每个家庭都用的到,特别的方...

2024-07-24 17:03:09查看全文 >>

男人心里怕失去你表现(男人心里住着一个女人有哪些表现)

男人心里怕失去你表现(男人心里住着一个女人有哪些表现)

在爱的世界里,我们常因深情而怕失去所爱。如果一个男人真心怕失去你,他的一举一动都会充满对你的疼爱与不舍。比如他的眼神里藏...

2024-07-24 16:45:40查看全文 >>

真正爱你的男人会如何表现(爱你的男人多半会有什么表现)

真正爱你的男人会如何表现(爱你的男人多半会有什么表现)

在爱情的长河中,每个人的表达方式都如同星辰般独特而璀璨。对于男性而言,当他们深爱一个人至骨髓时,那份深情往往不仅仅体现在...

2024-07-24 16:35:40查看全文 >>

已婚男人喜欢上异性什么表现(已婚男人默默喜欢你的举动)

已婚男人喜欢上异性什么表现(已婚男人默默喜欢你的举动)

【新来的朋友,欢迎关注我哦!】婚后发现心动的人是相见恨晚的人,但和枕边的人相处了多年可能还有了孩子,能重新开始吗?女人天...

2024-07-24 17:00:20查看全文 >>

干炒牛柳的做法(炒牛柳做法大全图解)

干炒牛柳的做法(炒牛柳做法大全图解)

大家好,我是阿杨。今天买了一块鲜牛肉,是适合做牛排的,因为上次牛排吃过了,这次准备用它来做一道家常版的炒牛柳,做法简单,...

2024-07-24 16:45:25查看全文 >>

文档排行