如何進(jìn)行ＭySQL批量insert效率對比

這篇文章給大家介紹如何進(jìn)行ＭySQL批量insert效率對比，內(nèi)容非常詳細(xì)，感興趣的小伙伴們可以參考借鑒，希望對大家能有所幫助。

ＭySQL批量insert效率對比

事例如下:

 [root@BDMYSQL-200-104 dumpdir]# more phone_area_new.sql 
INSERT INTO `phone_area_new` VALUES ('1302357', '江蘇省', '江蘇-南通', '南通');
INSERT INTO `phone_area_new` VALUES ('1302358', '江蘇省', '江蘇-南通', '南通');
INSERT INTO `phone_area_new` VALUES ('1302359', '江蘇省', '江蘇-南通', '南通');
INSERT INTO `phone_area_new` VALUES ('1302360', '浙江省', '浙江杭州', '杭州');
INSERT INTO `phone_area_new` VALUES ('1302361', '浙江省', '浙江杭州', '杭州');
INSERT INTO `phone_area_new` VALUES ('1302362', '浙江省', '浙江杭州', '杭州');
INSERT INTO `phone_area_new` VALUES ('1302363', '浙江省', '浙江杭州', '杭州');
INSERT INTO `phone_area_new` VALUES ('1302364', '浙江省', '浙江杭州', '杭州');
INSERT INTO `phone_area_new` VALUES ('1302365', '浙江省', '浙江杭州', '杭州');
INSERT INTO `phone_area_new` VALUES ('1302366', '浙江省', '浙江杭州', '杭州');
INSERT INTO `phone_area_new` VALUES ('1301743', '貴州省', '貴州-貴陽', '貴陽');
INSERT INTO `phone_area_new` VALUES ('1301744', '貴州省', '貴州-安順', '安順');
INSERT INTO `phone_area_new` VALUES ('1301745', '貴州省', '貴州-貴陽', '貴陽');
INSERT INTO `phone_area_new` VALUES ('1301746', '貴州省', '貴州-貴陽', '貴陽');
INSERT INTO `phone_area_new` VALUES ('1301747', '貴州省', '貴州-貴陽', '貴陽');
INSERT INTO `phone_area_new` VALUES ('1301748', '貴州省', '貴州-貴陽', '貴陽');
INSERT INTO `phone_area_new` VALUES ('1301749', '貴州省', '貴州-遵義', '遵義');
INSERT INTO `phone_area_new` VALUES ('1301750', '河南省', '河南-焦作', '焦作');
--More--(0%)

行數(shù)大概有271255行:

 [root@BDMYSQL-200-104 dumpdir]# wc -l phone_area_new.sql
271255 phone_area_new.sql

如果不合并insert大概需要３個小時左右才導(dǎo)入完,這樣很悲劇，現(xiàn)在我們針對合并數(shù)量進(jìn)行對比

1. 全并1000條數(shù)據(jù) 首先進(jìn)行文本處理

 [root@BDMYSQL-200-104 dumpdir]#  sed ':a;N;s/;\r\?\n[^(]*/,/;0~1000!ba' phone_area_new.sql >mm.sql

清除表中數(shù)據(jù)

 system@localhost 21:01:  [netdata]> truncate table phone_area_new;
Query OK, 0 rows affected (0.20 sec)

測試導(dǎo)入數(shù)據(jù)

 [root@BDMYSQL-200-104 dumpdir]#  time mysql netdata<mm.sql
real    0m19.028s
user    0m0.155s
sys 0m0.008s

速度驚人,盡然只需要19S 2. 全并5000條數(shù)據(jù) 操作之前需要清理數(shù)據(jù)

 system@localhost 21:01:  [netdata]> truncate table phone_area_new;
Query OK, 0 rows affected (0.20 sec)

合并數(shù)據(jù)

 [root@BDMYSQL-200-104 dumpdir]#  sed ':a;N;s/;\r\?\n[^(]*/,/;0~5000!ba' phone_area_new.sql >mm.sql

測試導(dǎo)入數(shù)據(jù)

 [root@BDMYSQL-200-104 dumpdir]# time mysql netdata<mm.sql 
real    0m8.634s
user    0m0.151s
sys 0m0.008s

竟然只要8S，還能不能更快 2. 全并7000條數(shù)據(jù) 操作之前需要清理數(shù)據(jù)

 system@localhost 22:16:  [netdata]> truncate table phone_area_new;
Query OK, 0 rows affected (0.24 sec)

合并數(shù)據(jù)

 [root@BDMYSQL-200-104 dumpdir]#  sed ':a;N;s/;\r\?\n[^(]*/,/;0~7000!ba' phone_area_new.sql >mm.sql

注釋這里做合并花了十幾秒 導(dǎo)入數(shù)據(jù)

 [root@BDMYSQL-200-104 dumpdir]#  time mysql netdata<mm.sql

real    0m7.290s
user    0m0.146s
sys 0m0.011s

7S，還能不能更快 2. 全并8000條數(shù)據(jù) 操作之前需要清理數(shù)據(jù)

 system@localhost 22:20:  [netdata]> truncate table phone_area_new;
Query OK, 0 rows affected (0.20 sec)

合并數(shù)據(jù)

 [root@BDMYSQL-200-104 dumpdir]#  sed ':a;N;s/;\r\?\n[^(]*/,/;0~8000!ba' phone_area_new.sql >mm.sql

導(dǎo)入數(shù)據(jù)

 [root@BDMYSQL-200-104 dumpdir]# time mysql netdata<mm.sql 
real    0m7.477s
user    0m0.144s
sys 0m0.012s

批量提交數(shù)跟硬件IO性能有很大關(guān)系，硬件ＩＯ越好批量提交數(shù)可以設(shè)置高點

關(guān)于如何進(jìn)行ＭySQL批量insert效率對比就分享到這里了，希望以上內(nèi)容可以對大家有一定的幫助，可以學(xué)到更多知識。如果覺得文章不錯，可以把它分享出去讓更多的人看到。