MySQL中怎么設計時間序列存儲引擎

MySQL中怎么設計時間序列存儲引擎，針對這個問題，這篇文章詳細介紹了相對應的分析和解答，希望可以幫助更多想解決這個問題的小伙伴找到更簡單易行的方法。

首先，讓我們看看OpenTSDB是什么樣的情況。下圖便是OpenTSDB的部署與運行圖示。OpenTSDB的后端存儲是HBASE，需要在各個server上部署信息收集的前端，通過dashboard展示信息。對于現有的時間序列數據庫，每一個都有自己的部署與運行方案。而這些方案并不具備架構上的通用性。

我們所期望的架構是除了底層的存儲組件不同，對于MySQL的用戶來說沒有什么不同。已有的大部分運維經驗(HA、復制、備份等等)和已有的開發(fā)經驗(插入、刪除和更新的操作)都可以繼承自之前的積累，這是任何一個使用MySQL的公司所希望的情況。就如下圖所展示的架構，對于上層用戶來說，感覺不到太多的變化。用戶可以通過標準的SQL編寫自己的應用客戶端來完成數據的采集和展示，提高靈活性。

經過以上的考量，產生了我們的試驗產品，存儲引擎CFL(ctrip fast  log)，該引擎能夠以快速的日志方式進行數據的記錄。其完成后就如下圖所示，滿足之前所設想的種種情況。

技術介紹

從層次結構來看，MySQL的存儲引擎分為兩個部分。一是實現存儲功能相關的組件，該層提供存儲引擎的具體功能(增刪改查)，我們稱之為功能層;一是和MySQL插件接口對接的組件，該層將MySQL的功能調用轉換為存儲引擎的功能調用，我們稱之為接口層。如下圖所示，數據庫的操作(諸如增刪改查等操作)將通過引擎管理層達到存儲引擎的接口層，再由接口層到達功能層。

功能層

功能層是存儲引擎的核心，由于設計目標的不同，存儲引擎的功能層所提供的功能也是不同的。比如innobase引擎的功能層，提供了事務ACID/數據存儲/元信息管理/MVCC等一系列功能，提供完整的數據庫功能;再如CSV存儲引擎，僅提供字符類型的行存儲。這些不同功能的存儲引擎組件，在MySQL的框架下，提供多種多樣的服務。

介紹攜程時間序列存儲引擎的功能層將從兩個主要方面介紹。一是功能層的架構，也就是運行時涉及到的對象和這些對象的作用;一是進行持久化的存儲，該部分將說明在文件層面，數據是如何存儲的。

架構

CFL的架構設計目標是盡可能的提高數據的插入效率，因此并行處理的想法需要貫穿始終。其機制為，不同會話并行的將數據向表對象中插入;表對象通過緩沖區(qū)保存插入的數據，當緩沖區(qū)寫滿之后，緩沖區(qū)加入磁盤寫入隊列，通過專門的寫盤線程并發(fā)的寫入磁盤。

下圖為攜程時間序列存儲引擎的架構：

存儲

在設計存儲的時候，根據時序數據庫的特點，首先考慮的是插入的效率，然后是快速的故障恢復。針對插入效率，在設計數據結構時，采用嚴格的順序寫入策略，以此來保證連續(xù)插入的效率。這樣不論在傳統硬盤還是在SSD硬盤上，都可以高效的寫入。針對快速故障恢復，通過控制寫入順序(依次寫入數據、索引和控制信息)，實現快速的恢復。***考慮實現上的簡易性，采用索引和數據分別存儲的方式，降低在同一文件中進行存儲管理的控制。

接口層

程序片段

如下代碼片段為接口層部分。

MySQL提供的基類handler，存儲引擎需要提供繼承自該類，并實現基類中如ha_open/ha_close等功能函數的類。

繼承handler類的攜程時間序列數據庫的類。

接口層架構

該部分將以ha_cfl為例，說明MySQL存儲引擎管理層和引擎接口之間的關系。

操作發(fā)送給會話后，會話從引擎管理層獲取到ha_cfl的對象，將操作轉化為對ha_cfl接口的調用，該步驟完成了SQL到存儲引擎接口的對接。

ha_cfl接口接到調用后，將調用轉化為對表對象的操作，完成handler接口功能到表對象的實現的對接。

效果

通過對時間序列數據進行針對性的開發(fā)，CFL存儲引擎的插入性能相對于InnoDB和MyISAM引擎有很大的提高。

ips：insert per second

總結

由于本次開發(fā)為探索性質的開發(fā)，時間上或者人力上的限制使產品還不夠完善，不論是設計還是實現上都存在需要改進的地方。如，創(chuàng)建表時對時間戳類型使用和索引列的指定存在限制，導致無法創(chuàng)建多列索引，僅能夠創(chuàng)建時間索引。存儲結構的限制導致刪除和更新無法快速靈活的進行。

但在資源有限的情況下，完成一個概念完整和實現完整的產品。而且正是通過這次探索性開發(fā)，打開了MySQL存儲引擎的一扇大門，不論從整體架構到實現細節(jié)都有深入研究，積累了很多經驗。攜程技術保障中心DBA團隊希望這些經驗在將來能夠為國內的MySQL社區(qū)提供幫助。

關于MySQL中怎么設計時間序列存儲引擎問題的解答就分享到這里了，希望以上內容可以對大家有一定的幫助，如果你還有很多疑惑沒有解開，可以關注億速云行業(yè)資訊頻道了解更多相關知識。