溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

怎么利用分析函數(shù)改寫范圍判斷自關(guān)聯(lián)查詢

發(fā)布時(shí)間:2021-05-24 10:45:07 來源:億速云 閱讀:143 作者:小新 欄目:數(shù)據(jù)庫

小編給大家分享一下怎么利用分析函數(shù)改寫范圍判斷自關(guān)聯(lián)查詢,希望大家閱讀完這篇文章之后都有所收獲,下面讓我們一起去探討吧!

前言

最近碰到一個(gè)單條SQL運(yùn)行效率不佳導(dǎo)致數(shù)據(jù)庫整體運(yùn)行負(fù)載較高的問題。

分析、定位數(shù)據(jù)庫的主要負(fù)載是這條語句引起的過程相對簡單,通過AWR報(bào)告就可以比較容易的完成定位,這里就不贅述了。

現(xiàn)在直接看一下這個(gè)導(dǎo)致性能問題的SQL語句,其對應(yīng)的SQL REPORT統(tǒng)計(jì)如下:

Stat NameStatement TotalPer Execution% Snap Total
Elapsed Time (ms)363,741363,740.788 .42
CPU Time (ms)362,770362,770.008 .81
Executions1  
Buffer Gets756756.000.00
Disk Reads00.000.00
Parse Calls11.000.01
Rows50,82550,825.00 
User I/O Wait Time (ms)0 
Cluster Wait Time (ms)0  
Application Wait Time (ms)0  
Concurrency Wait Time (ms)0  
Invalidations0  
Version Count1  
Sharable Mem(KB)28  

從SQL的性能指標(biāo)上看,其單次執(zhí)行需要6分鐘左右,處理5萬多條記錄,邏輯度只有756,主要消耗時(shí)間在CPU上。而這里就存在疑點(diǎn),邏輯讀如此之低,而CPU時(shí)間花費(fèi)又如此之高,那么這些CPU都消耗在哪里呢?當(dāng)然這個(gè)問通過SQL的統(tǒng)計(jì)信息中是找不到答案的,我們下面關(guān)注SQL的執(zhí)行計(jì)劃:

IdOperationNameRowsBytesTempSpcCost (%CPU)Time
0SELECT STATEMENT   
1226 (100) 
1   SORT ORDER BY 493793375K3888K1226 (2)00:00:05
2     HASH JOIN ANTI 493793375K2272K401 (3)00:00:02
3       TABLE ACCESS FULLT_NUM493791687K 88 (4)00:00:01
4       TABLE ACCESS FULLT_NUM493791687K 88 (4)00:00:01

從執(zhí)行計(jì)劃看,Oracle選擇了HASH JOIN ANTI,JOIN的兩張表都是T_NUM,且都采用了全表掃描,并未選擇索引。僅靠執(zhí)行計(jì)劃也只等得到上面的結(jié)論,至于為什么不選擇索引,以及為什么執(zhí)行時(shí)間過長,還需要進(jìn)一步的分析。

將原SQL進(jìn)行簡單脫密改寫后, SQL文本類似如下:

SELECT BEGIN, END, ROWID, LENGTH(BEGIN)
FROM T_NUM A
WHERE NOT EXISTS (
SELECT 1
FROM T_NUM B
WHERE B.BEGIN <= A.BEGIN
AND B.END >= A.END
AND B.ROWID != A.ROWID
AND LENGTH(B.BEGIN) = LENGTH(A.BEGIN));

如果分析SQL語句,會(huì)發(fā)現(xiàn)這是一個(gè)自關(guān)聯(lián)語句,在BEGIN字段長度相等的前提下,想要找到哪些不存在BEGIN比當(dāng)前記錄BEGIN小且END比當(dāng)前記錄END大的記錄。

簡單一點(diǎn)說,表中的記錄表示的是由BEGIN開始到END截至的范圍,那么當(dāng)前想要獲取的結(jié)果是找出哪些沒有范圍所包含的范圍。需要注意的是,對于當(dāng)前的SQL邏輯,如果存在兩條范圍完全相同的記錄,那么最終這兩條記錄都會(huì)被舍棄。

業(yè)務(wù)的邏輯并不是特別復(fù)雜,但是要解決一條記錄與其他記錄進(jìn)行比較,多半采用的方法是自關(guān)聯(lián),而在這個(gè)自關(guān)聯(lián)中,既有大于等于又有小于等于,還有不等于,僅有的一個(gè)等于的關(guān)聯(lián)條件,來自范圍段BEGIN的長度的比較。

顯而易見的是,如果是范圍段本身的比較,其選擇度一般還是不錯(cuò)的,但是如果只是比較其長度,那么無疑容易產(chǎn)生大量的重復(fù),比如在這個(gè)例子中:

SQL> select length(begin), count(*) from t_num group by length(begin) order by 2 desc;

 

LENGTH(BEGIN) COUNT(*)

————- ———-

12  22096

11  9011

13  8999

14  8186

16   49

9   45

8   41

7   27

大量重復(fù)的數(shù)據(jù)出現(xiàn)在長度為11到14的范圍上,在這種情況下,僅有的一個(gè)等值判斷條件LENGTH(BEGIN)是非常低效的,這時(shí)一條記錄根據(jù)這個(gè)等值條件會(huì)關(guān)聯(lián)到近萬條記錄,設(shè)置關(guān)聯(lián)到兩萬多條記錄,顯然大量的實(shí)踐消耗在低效的連接過程中。

再來看一下具體的SQL語句,會(huì)發(fā)現(xiàn)幾乎沒有辦法建立索引,因?yàn)長ENGTH(BEGIN)的選擇度非常查,而其他的條件都是不等查詢,選擇度也不會(huì)好,即使建立索引,強(qiáng)制執(zhí)行選擇索引,效率也不會(huì)好。

那么如果想要繼續(xù)優(yōu)化這個(gè)SQL,就只剩下一個(gè)辦法,那就是SQL的改寫。對于自關(guān)聯(lián)查詢而言,最佳的改寫方法是利用分析函數(shù),其強(qiáng)大的行級處理能力,可以在一次掃描過程中獲得一條記錄與其他記錄的關(guān)系,從而消除了自關(guān)聯(lián)的必要性。

SQL改寫結(jié)果如下:

SELECT BEGIN, OLDEND END, LENGTH(BEGIN)
FROM (
SELECT BEGIN, OLDEND, END, LENGTH(BEGIN), COUNT(*) OVER(PARTITION BY LENGTH(BEGIN), BEGIN, OLDEND) CN,
ROW_NUMBER() OVER(PARTITION BY LENGTH(BEGIN), END ORDER BY BEGIN) RN
FROM
(
SELECT BEGIN, END OLDEND, MAX(END) OVER(PARTITION BY LENGTH(BEGIN) ORDER BY BEGIN, END DESC) END
FROM T_NUM
)
)
WHERE RN = 1
AND CN = 1;

簡單的說,內(nèi)層的分析函數(shù)MAX用來根據(jù)BEGIN從小到大,END從大到小的條件,確定每個(gè)范圍對應(yīng)的最大的END的值。而外層的兩個(gè)分析函數(shù),COUNT用來去掉完全重復(fù)的記錄,而ROW_NUMBER用來獲取范圍最大的記錄(也就是沒有被其他記錄的范圍所涵蓋)。

改寫后,這個(gè)SQL避免對自關(guān)聯(lián),也就不存在關(guān)聯(lián)條件重復(fù)值過高的性能隱患了。在模擬環(huán)境中,性能對比如下:

SQL> SELECT BEGIN, END, ROWID, LENGTH(BEGIN)

2 FROM T_NUM A

3 WHERE NOT EXISTS (

4  SELECT 1

5  FROM T_NUM B

6  WHERE B.BEGIN <= A.BEGIN

7  AND B.END >= A.END

8  AND B.ROWID != A.ROWID

9  AND LENGTH(B.BEGIN) = LENGTH(A.BEGIN))

10 ;

 

48344 rows selected.

 

Elapsed: 00:00:57.68

 

Execution Plan

———————————————————-

Plan hash value: 2540751655

 

————————————————————————————

| Id | Operation   | Name | Rows | Bytes |TempSpc| Cost (%CPU)| Time  |

————————————————————————————

| 0 | SELECT STATEMENT |  | 48454 | 1703K|  | 275 (1)| 00:00:04 |

|* 1 | HASH JOIN ANTI |  | 48454 | 1703K| 1424K| 275 (1)| 00:00:04 |

| 2 | TABLE ACCESS FULL| T_NUM | 48454 | 851K|  | 68 (0)| 00:00:01 |

| 3 | TABLE ACCESS FULL| T_NUM | 48454 | 851K|  | 68 (0)| 00:00:01 |

————————————————————————————

 

Predicate Information (identified by operation id):

—————————————————

 

1 – access(LENGTH(TO_CHAR(“B”.”BEGIN”))=LENGTH(TO_CHAR(“A”.”BEGIN”)))

filter(“B”.”BEGIN”<=”A”.”BEGIN” AND “B”.”END”>=”A”.”END” AND

“B”.ROWID<>”A”.ROWID)

 

 

Statistics

———————————————————-

0 recursive calls

0 db block gets

404 consistent gets

0 physical reads

0 redo size

2315794 bytes sent via SQL*Net to client

35966 bytes received via SQL*Net from client

3224 SQL*Net roundtrips to/from client

0 sorts (memory)

0 sorts (disk)

48344 rows processed

 

SQL> SELECT BEGIN, OLDEND END, LENGTH(BEGIN)

2 FROM (

3  SELECT BEGIN, OLDEND, END, LENGTH(BEGIN), COUNT(*) OVER(PARTITION BY LENGTH(BEGIN), BEGIN, OLDEND) CN,

4    ROW_NUMBER() OVER(PARTITION BY LENGTH(BEGIN), END ORDER BY BEGIN) RN

5  FROM

6  (

7    SELECT BEGIN, END OLDEND, MAX(END) OVER(PARTITION BY LENGTH(BEGIN) ORDER BY BEGIN, END DESC) END

8    FROM T_NUM

9  )

10 )

11 WHERE RN = 1

12 AND CN = 1;

 

48344 rows selected.

 

Elapsed: 00:00:00.72

 

Execution Plan

———————————————————-

Plan hash value: 1546715670

 

——————————————————————————————

| Id | Operation    | Name | Rows | Bytes |TempSpc| Cost (%CPU)| Time  |

——————————————————————————————

| 0 | SELECT STATEMENT   |  | 48454 | 2460K|  | 800 (1)| 00:00:10 |

|* 1 | VIEW     |  | 48454 | 2460K|  | 800 (1)| 00:00:10 |

|* 2 | WINDOW SORT PUSHED RANK|  | 48454 | 1845K| 2480K| 800 (1)| 00:00:10 |

| 3 | WINDOW BUFFER   |  | 48454 | 1845K|  | 800 (1)| 00:00:10 |

| 4 |  VIEW     |  | 48454 | 1845K|  | 311 (1)| 00:00:04 |

| 5 |  WINDOW SORT   |  | 48454 | 662K| 1152K| 311 (1)| 00:00:04 |

| 6 |  TABLE ACCESS FULL | T_NUM | 48454 | 662K|  | 68 (0)| 00:00:01 |

——————————————————————————————

 

Predicate Information (identified by operation id):

—————————————————

 

1 – filter(“RN”=1 AND “CN”=1)

2 – filter(ROW_NUMBER() OVER ( PARTITION BY LENGTH(TO_CHAR(“BEGIN”)),”END”

ORDER BY “BEGIN”)<=1)

 

 

Statistics

———————————————————-

0 recursive calls

0 db block gets

202 consistent gets

0 physical reads

0 redo size

1493879 bytes sent via SQL*Net to client

35966 bytes received via SQL*Net from client

3224 SQL*Net roundtrips to/from client

3 sorts (memory)

0 sorts (disk)

48344 rows processed

原SQL運(yùn)行時(shí)間接近1分鐘,而改寫后的SQL語句只需要0.72秒,執(zhí)行時(shí)間變?yōu)樵镜?/80,邏輯讀減少一半。

看完了這篇文章,相信你對“怎么利用分析函數(shù)改寫范圍判斷自關(guān)聯(lián)查詢”有了一定的了解,如果想了解更多相關(guān)知識,歡迎關(guān)注億速云行業(yè)資訊頻道,感謝各位的閱讀!

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

sql
AI