溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

發(fā)布時(shí)間:2020-07-08 09:58:37 來源:億速云 閱讀:270 作者:Leah 欄目:編程語言

這期內(nèi)容當(dāng)中小編將會(huì)給大家?guī)碛嘘P(guān)PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法,文章內(nèi)容豐富且以專業(yè)的角度為大家分析和敘述,閱讀完這篇文章希望大家可以有所收獲。

mysql分表思路

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法
    一張一億的訂單表,可以分成五張表,這樣每張表就只有兩千萬數(shù)據(jù),分擔(dān)了原來一張表的壓力,分表需要根據(jù)某個(gè)條件進(jìn)行分,這里可以根據(jù)地區(qū)來分表,需要一個(gè)中間件來控制到底是去哪張表去找到自己想要的數(shù)據(jù)。
   中間件:根據(jù)主表的自增id作為中間件(什么樣的字段適合做中間件?要具備唯一性)
   怎么分發(fā)?主表插入之后返回一個(gè)id,根據(jù)這個(gè)id和表的數(shù)量進(jìn)行取模,余數(shù)是幾就往哪張表中插入數(shù)據(jù)。
   注意:子表中的id要與主表的id保持一致
   以后只有插入操作會(huì)用到主表,修改,刪除,讀取,均不需要用到主表

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

redis消息隊(duì)列

1,什么是消息隊(duì)列?
消息傳播過程中保存消息的容器
2,消息隊(duì)列產(chǎn)生的歷史原因

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

消息隊(duì)列的特點(diǎn):先進(jìn)先出
把要執(zhí)行的sql語句先保存在消息隊(duì)列中,然后依次按照順利異步插入的數(shù)據(jù)庫中
應(yīng)用:新浪,把瞬間的評(píng)論先放入消息隊(duì)列,然后通過定時(shí)任務(wù)把消息隊(duì)列里面的sql語句依次插入到數(shù)據(jù)庫中

修改

操作子表進(jìn)行修改

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

這樣修改有一個(gè)問題,主表和子表的數(shù)據(jù)會(huì)出現(xiàn)不一致,如何讓主表和字表數(shù)據(jù)一致?

redis隊(duì)列保持主表子表數(shù)據(jù)一致

修改完成后將要修改主表的數(shù)據(jù),存入redis隊(duì)列中

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

然后linux定時(shí)任務(wù)(contble)循環(huán)執(zhí)行redis隊(duì)列中的sql語句,同步更新主表的內(nèi)容

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

mysql分布式之分表(查,刪)

查詢只需要查詢子表,不要查詢總表

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

刪除,先根據(jù)id找到要?jiǎng)h除的子表,然后刪除,然后往消息隊(duì)列中壓入一條刪除總表數(shù)據(jù)的sql語句
然后執(zhí)行定時(shí)任務(wù)刪除總表數(shù)據(jù)

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

定時(shí)任務(wù):

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

mysql分布式之分庫

分庫思路

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

分庫原理圖:

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

mysql分布式之分庫(增)

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法
注意:操作完一個(gè)數(shù)據(jù)庫一定要把數(shù)據(jù)庫連接關(guān)閉,不然mysql會(huì)以為一直連接的同一個(gè)數(shù)據(jù)庫

還是取模確定加載哪個(gè)配置文件連接哪個(gè)數(shù)據(jù)庫

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

mysql分布式之分庫(改)

原理同新增

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

mysql分布式之分庫(查,刪)

原理類似

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法
刪除

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法
執(zhí)行隊(duì)列

mysql分布式之緩存(memcache)的應(yīng)用

將數(shù)據(jù)放入緩存中,節(jié)省數(shù)據(jù)庫開銷,先去緩存中查,如果有直接取出,如果沒有,去數(shù)據(jù)庫查,然后存入緩存中

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

在編輯信息之后需要?jiǎng)h除緩存,不然一直讀取的是緩存的數(shù)據(jù)而不是修改過的數(shù)據(jù)

PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法

上述就是小編為大家分享的PHP結(jié)合MySQL進(jìn)行千萬級(jí)數(shù)據(jù)處理的方法了,如果剛好有類似的疑惑,不妨參照上述分析進(jìn)行理解。如果想知道更多相關(guān)知識(shí),歡迎關(guān)注億速云行業(yè)資訊頻道。

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI