MySQL中如何實(shí)現(xiàn)無過濾條件的count

小編給大家分享一下MySQL中如何實(shí)現(xiàn)無過濾條件的count，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！

count(*)

實(shí)現(xiàn)

1、MyISAM：將表的總行數(shù)存放在磁盤上，針對無過濾條件的查詢可以直接返回

如果有過濾條件的count(*)，MyISAM也不能很快返回

2、InnoDB：從存儲引擎一行行地讀出數(shù)據(jù)，然后累加計數(shù)

由于MVCC，在同一時刻，InnoDB應(yīng)該返回多少行是不確定

樣例

假設(shè)表t有10000條記錄

最后時刻三個會話同時查詢t的總行數(shù)，拿到的結(jié)果卻是不同的

InnoDB默認(rèn)事務(wù)隔離級別是RR，通過MVCC實(shí)現(xiàn)

• 每個事務(wù)都需要判斷每一行記錄是否對自己可見

優(yōu)化

1、InnoDB是索引組織表

• 聚簇索引樹：葉子節(jié)點(diǎn)是數(shù)據(jù)

• 二級索引樹：葉子節(jié)點(diǎn)是主鍵值

2、二級索引樹占用的空間比聚簇索引樹小很多

3、優(yōu)化器會在保證邏輯正確的前提下，遍歷最小的索引樹，盡量減少掃描的數(shù)據(jù)量

• 針對無過濾條件的count操作，無論遍歷哪一顆索引樹，效果都是一樣的

• 優(yōu)化器會為count(*)選擇最優(yōu)的索引樹

show table status

mysql> SHOW TABLE STATUS\G;
*************************** 1. row ***************************
 Name: t
 Engine: InnoDB
 Version: 10
 Row_format: Dynamic
 Rows: 100256
 Avg_row_length: 47
 Data_length: 4734976
Max_data_length: 0
 Index_length: 5275648
 Data_free: 0
 Auto_increment: NULL
 Create_time: 2019-02-01 17:49:07
 Update_time: NULL
 Check_time: NULL
 Collation: utf8_general_ci
 Checksum: NULL
 Create_options:
 Comment:

SHOW TABLE STATUS同樣通過采樣來估算（非常不精確），誤差能到40%~50%

維護(hù)計數(shù)

緩存

方案

• 用Redis來保存表的總行數(shù)（無過濾條件）

• 這個表每插入一行，Redis計數(shù)+1，每刪除一行，Redis計數(shù)-1

缺點(diǎn)

丟失更新

1、Redis可能會丟失更新

2、解決方案：Redis異常重啟后，到數(shù)據(jù)庫執(zhí)行一次count(*)

• 異常重啟并不常見，這時全表掃描的成本是可以接受的

邏輯不精確 – 致命

1、場景：顯示操作記錄的總數(shù)和最近操作的100條記錄

2、Redis和MySQL是兩個不同的存儲系統(tǒng)，不支持分布式事務(wù)，因此無法拿到精確的一致性視圖

時序A

session B在T3時刻，查到的100行結(jié)果里面有最新插入的記錄，但Redis還沒有+1，邏輯不一致

時序B

session B在T3時刻，查到的100行結(jié)果里面沒有最新插入的記錄，但Redis已經(jīng)+1，邏輯不一致

數(shù)據(jù)庫

• 把計數(shù)值放到數(shù)據(jù)庫單獨(dú)的一張計數(shù)表C中

• 利用InnoDB的crash-safe的特性，解決了崩潰丟失的問題

• 利用InnoDB的支持事務(wù)的特性，解決了一致性視圖的問題

• session B在T3時刻，session A的事務(wù)還未提交，表C的計數(shù)值+1對自己不可見，邏輯一致

count的性能

語義

1、count()是一個聚合函數(shù)，對于返回的結(jié)果集，一行一行地進(jìn)行判斷

如果count函數(shù)的參數(shù)值不是NULL，累計值+1，否則不加，最后返回累計值

2、count(字段F)

• 字段F有可能為NULL

• 表示返回滿足條件的結(jié)果集里字段F不為NULL的總數(shù)

3、count(主鍵ID)、count(1)、count(*)

• 不可能為NULL

• 表示返回滿足條件的結(jié)果集的總數(shù)

4、Server層要什么字段，InnoDB引擎就返回什么字段

• count(*)例外，不返回整行，只返回空行

性能對比

count(字段F)

1、如果字段F定義為不允許為NULL，一行行地從記錄里讀出這個字段，判斷通過后按行累加

• 通過表結(jié)構(gòu)判斷該字段是不可能為NULL

2、如果字段F定義為允許NULL，一行行地從記錄里讀出這個字段，判斷通過后按行累加

• 通過表結(jié)構(gòu)判斷該字段是有可能為NULL

• 判斷該字段值是否實(shí)際為NULL

3、如果字段F上沒有二級索引，只能遍歷整張表（聚簇索引）

4、由于InnoDB必須返回字段F，因此優(yōu)化器能做出的優(yōu)化決策將減少

• 例如不能選擇最優(yōu)的索引來遍歷

count(主鍵ID)

• InnoDB會遍歷整張表（聚簇索引），把每一行的id值取出來，返回給Server層

• Server層拿到id后，判斷為不可能為NULL，然后按行累加

• 優(yōu)化器可能會選擇最優(yōu)的索引來遍歷

count(1)

1. InnoDB引擎會遍歷整張表（聚簇索引），但不取值

2. Server層對于返回的每一行，放一個數(shù)字1進(jìn)去，判斷是不可能為NULL，按行累加

3. count(1)比count(主鍵ID)快，因?yàn)閏ount(主鍵ID)會涉及到兩部分操作

• 解析數(shù)據(jù)行

• 拷貝字段值

count(*)

1. count(*)不會把所有值都取出來，而是專門做了優(yōu)化，不取值，因?yàn)椤?』肯定不為NULL，按行累加

2. 不取值：InnoDB返回一個空行，告訴Server層不是NULL，可以計數(shù)

效率排序

1. count(字段F) < count(主鍵ID) < count(1) ≈ count(*)

2. 盡量使用count(*)

樣例

mysql> SHOW CREATE TABLE prop_action_batch_reward\G;
*************************** 1. row ***************************
 Table: prop_action_batch_reward
Create Table: CREATE TABLE `prop_action_batch_reward` (
 `id` bigint(20) NOT NULL,
 `source` int(11) DEFAULT NULL,
 `serial_id` bigint(20) NOT NULL,
 `create_time` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP,
 `user_ids` mediumtext,
 `serial_index` tinyint(4) DEFAULT '0',
 PRIMARY KEY (`id`),
 UNIQUE KEY `uniq_serial_id_source_index` (`serial_id`,`source`,`serial_index`),
 KEY `idx_create_time` (`create_time`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8

count(字段F)

無索引

user_ids上無索引，而InnoDB又必須返回user_ids字段，只能遍歷聚簇索引

mysql> EXPLAIN SELECT COUNT(user_ids) FROM prop_action_batch_reward;
+----+-------------+--------------------------+------+---------------+------+---------+------+----------+-------+
| id | select_type | table   | type | possible_keys | key | key_len | ref | rows | Extra |
+----+-------------+--------------------------+------+---------------+------+---------+------+----------+-------+
| 1 | SIMPLE | prop_action_batch_reward | ALL | NULL  | NULL | NULL | NULL | 16435876 | NULL |
+----+-------------+--------------------------+------+---------------+------+---------+------+----------+-------+

mysql> SELECT COUNT(user_ids) FROM prop_action_batch_reward;
+-----------------+
| count(user_ids) |
+-----------------+
| 17689788 |
+-----------------+
1 row in set (10.93 sec)

有索引

1、serial_id上有索引，可以遍歷uniq_serial_id_source_index

2、但由于InnoDB必須返回serial_id字段，因此不會遍歷邏輯結(jié)果等價的更優(yōu)選擇idx_create_time

• 如果選擇idx_create_time，并且返回serial_id字段，這意味著必須回表

mysql> EXPLAIN SELECT COUNT(serial_id) FROM prop_action_batch_reward;
+----+-------------+--------------------------+-------+---------------+-----------------------------+---------+------+----------+-------------+
| id | select_type | table   | type | possible_keys | key    | key_len | ref | rows | Extra |
+----+-------------+--------------------------+-------+---------------+-----------------------------+---------+------+----------+-------------+
| 1 | SIMPLE | prop_action_batch_reward | index | NULL  | uniq_serial_id_source_index | 15 | NULL | 16434890 | Using index |
+----+-------------+--------------------------+-------+---------------+-----------------------------+---------+------+----------+-------------+

mysql> SELECT COUNT(serial_id) FROM prop_action_batch_reward;
+------------------+
| count(serial_id) |
+------------------+
|  17705069 |
+------------------+
1 row in set (5.04 sec)

count(主鍵ID)

優(yōu)化器選擇了最優(yōu)的索引idx_create_time來遍歷，而非聚簇索引

mysql> EXPLAIN SELECT COUNT(id) FROM prop_action_batch_reward;
+----+-------------+--------------------------+-------+---------------+-----------------+---------+------+----------+-------------+
| id | select_type | table   | type | possible_keys | key  | key_len | ref | rows | Extra |
+----+-------------+--------------------------+-------+---------------+-----------------+---------+------+----------+-------------+
| 1 | SIMPLE | prop_action_batch_reward | index | NULL  | idx_create_time | 5 | NULL | 16436797 | Using index |
+----+-------------+--------------------------+-------+---------------+-----------------+---------+------+----------+-------------+

mysql> SELECT COUNT(id) FROM prop_action_batch_reward;
+-----------+
| count(id) |
+-----------+
| 17705383 |
+-----------+
1 row in set (4.54 sec)

count(1)

mysql> EXPLAIN SELECT COUNT(1) FROM prop_action_batch_reward;
+----+-------------+--------------------------+-------+---------------+-----------------+---------+------+----------+-------------+
| id | select_type | table   | type | possible_keys | key  | key_len | ref | rows | Extra |
+----+-------------+--------------------------+-------+---------------+-----------------+---------+------+----------+-------------+
| 1 | SIMPLE | prop_action_batch_reward | index | NULL  | idx_create_time | 5 | NULL | 16437220 | Using index |
+----+-------------+--------------------------+-------+---------------+-----------------+---------+------+----------+-------------+

mysql> SELECT COUNT(1) FROM prop_action_batch_reward;
+----------+
| count(1) |
+----------+
| 17705808 |
+----------+
1 row in set (4.12 sec)

count(*)

mysql> EXPLAIN SELECT COUNT(*) FROM prop_action_batch_reward;
+----+-------------+--------------------------+-------+---------------+-----------------+---------+------+----------+-------------+
| id | select_type | table   | type | possible_keys | key  | key_len | ref | rows | Extra |
+----+-------------+--------------------------+-------+---------------+-----------------+---------+------+----------+-------------+
| 1 | SIMPLE | prop_action_batch_reward | index | NULL  | idx_create_time | 5 | NULL | 16437518 | Using index |
+----+-------------+--------------------------+-------+---------------+-----------------+---------+------+----------+-------------+

mysql> SELECT COUNT(*) FROM prop_action_batch_reward;
+----------+
| count(*) |
+----------+
| 17706074 |
+----------+
1 row in set (4.06 sec)

以上是“MySQL中如何實(shí)現(xiàn)無過濾條件的count”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對大家有所幫助，如果還想學(xué)習(xí)更多知識，歡迎關(guān)注億速云行業(yè)資訊頻道！