溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

使用java怎么實(shí)現(xiàn)一個(gè)mysql分表操作

發(fā)布時(shí)間:2021-02-19 15:29:13 來源:億速云 閱讀:219 作者:Leah 欄目:開發(fā)技術(shù)

使用java怎么實(shí)現(xiàn)一個(gè)mysql分表操作?很多新手對(duì)此不是很清楚,為了幫助大家解決這個(gè)難題,下面小編將為大家詳細(xì)講解,有這方面需求的人可以來學(xué)習(xí)下,希望你能有所收獲。

設(shè)置項(xiàng)目氣動(dòng)執(zhí)行次方法(每天檢查一次表記錄)

public class DayInterval implements ServletContextListener{
	private static SimpleDateFormat simpleDateFormat=new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
	public static void showDayTime() {
			Timer dTimer = new Timer();
			dTimer.schedule(new TimerTask() {
			@Override
			public void run() {	
			  System.out.println("每日任務(wù)執(zhí)行:"+simpleDateFormat.format(new Date()));
			  LogTableCreate logTableCreate = new LogTableCreate();
			  Thread thread=new Thread(logTableCreate);
			  thread.start();
			}
			}, 1000 , 24* 60* 60 * 1000);//24* 60* 60 * 1000(第一次一秒后執(zhí)行,以后每次一天后執(zhí)行)
	}
	@Override
	public void contextDestroyed(ServletContextEvent arg0) {
//		showDayTime();
	}
	@Override
	public void contextInitialized(ServletContextEvent arg0) {
		showDayTime();
	}
}

LogTableCreate 用來做表分表是否已經(jīng)創(chuàng)建,如現(xiàn)在是9月在啟動(dòng)時(shí)檢查是否存在當(dāng)月表記錄,不存在則創(chuàng)建存在則不創(chuàng)建,另外檢查是否存在10月份表記錄,不存在則創(chuàng)建(提前創(chuàng)建一個(gè)也空表,以此類推)。

拷貝代碼修改createsql(建表sql),URL (數(shù)據(jù)庫地址),USER (數(shù)據(jù)庫連接用戶),PASSWORD(數(shù)據(jù)庫連接密碼)

public class LogTableCreate extends TimerTask {	
	private static final Log log = LogFactory.getLog(LogTableCreate.class);
	public static final String TBASENAME="tb_log";
		private String createsql = " (\r\n" + 
				" `ID` varchar(64) NOT NULL COMMENT '主鍵id',\r\n" + 
				" `userid` varchar(255) DEFAULT NULL COMMENT '用戶id',\r\n" + 
				" `username` varchar(255) DEFAULT NULL COMMENT '用戶姓名',\r\n" + 
				" `useridcard` varchar(255) DEFAULT NULL COMMENT '用戶身份證號(hào)碼',\r\n" + 
				" `realname` varchar(64) DEFAULT NULL COMMENT '真實(shí)姓名',\r\n" + 
				" `logintime` varchar(255) DEFAULT NULL COMMENT '登錄時(shí)間',\r\n" + 
				" `exittime` varchar(64) DEFAULT NULL COMMENT '退出時(shí)間',\r\n" + 
				" `ippath` varchar(255) DEFAULT NULL COMMENT 'ip地址',\r\n" + 
				" `macpath` varchar(255) DEFAULT NULL COMMENT 'mac地址',\r\n" + 
				" `usercreatedtime` varchar(255) DEFAULT NULL COMMENT '用戶創(chuàng)建時(shí)間',\r\n" + 
				" `userbusidaddress` varchar(255) DEFAULT NULL COMMENT '用戶錢包地址',\r\n" + 
				" `member` int(11) DEFAULT NULL COMMENT '是否是會(huì)員',\r\n" + 
				" `membertype` int(11) DEFAULT NULL COMMENT '會(huì)員類型',\r\n" + 
				" `spare1` varchar(255) DEFAULT NULL,\r\n" + 
				" `spare2` varchar(255) DEFAULT NULL,\r\n" + 
				" `spare3` varchar(255) DEFAULT NULL,\r\n" + 
				" PRIMARY KEY (`ID`)\r\n" + 
				")";	
 private SimpleDateFormat sdyyyy = new SimpleDateFormat("yyyy");
 private SimpleDateFormat sdmm = new SimpleDateFormat("MM");
 private static final String URL = "";
 private static final String USER = "";
 private static final String PASSWORD = "";
 //得到表名
 public static String gettable() {
 	Date date = new Date();
 	LogTableCreate logTableCreate=new LogTableCreate();
		String yyyy = logTableCreate.sdyyyy.format(date);
		String mm = logTableCreate.sdmm.format(date);
		String nmm = logTableCreate.getNextMM(mm);
		return TBASENAME+yyyy+mm;
 }
 
	//得到下一個(gè)月
	private String getNextMM(String mm){
		String nmm = "";
		int imm = Integer.parseInt(mm);
		if(imm>=12){
			nmm = "01";
		}else{
			imm++;
			if(imm>9)
				nmm = ""+imm;
			else
				nmm = "0"+imm;
		}
		return nmm;
	} 
	@Override
	public void run() {
		Date date = new Date();
		String yyyy = sdyyyy.format(date);
		String mm = sdmm.format(date);
		String nmm = getNextMM(mm);
		
		String nyyyy = "";
		if("01".equals(nmm)){
			nyyyy = ""+(Integer.parseInt(yyyy)+1);
		}else{
			nyyyy = yyyy;
		}
		
		log.info("日志表檢查及創(chuàng)建:"+yyyy+" - "+mm+" | "+nyyyy+"-"+nmm);
		String temp = TBASENAME+yyyy+mm; //日志表名稱
		boolean has = false;
	
		try{
			has = hasTable(temp);
		}catch(Exception e){
			log.error("當(dāng)前操作日志表是否存在判斷時(shí)發(fā)生錯(cuò)誤:"+e.getMessage());
			return;
		}
		if(!has){
			try{
				createTable(temp);
			}catch(Exception e){
				log.error("當(dāng)前操作日志表創(chuàng)建時(shí)發(fā)生錯(cuò)誤:"+e.getMessage());
				return;
			}
		}
		temp = TBASENAME+nyyyy+nmm;
		has = false;
		try{
			has = hasTable(temp);
		}catch(Exception e){
			log.error("待用日志表是否存在判斷時(shí)發(fā)生錯(cuò)誤:"+e.getMessage());
			return;
		}
		if(!has){
			try{
				createTable(temp);
			}catch(Exception e){
				log.error("待用日志表創(chuàng)建時(shí)發(fā)生錯(cuò)誤:"+e.getMessage());
				return;
			}
		}
		
		log.info("日志表檢查及創(chuàng)建結(jié)束");
	}
	
	public boolean hasTable(String table) throws Exception{
		Class.forName("com.mysql.jdbc.Driver");
  //2. 獲得數(shù)據(jù)庫連接
 Connection conn = DriverManager.getConnection(URL, USER, PASSWORD);
		boolean state = false;
		DatabaseMetaData meta = conn.getMetaData();
		ResultSet set;
		set = meta.getTables(null, null, table.toLowerCase(), null);
		while (set.next()) {
			state = true;
			break;
		}
		Statement stmt = null;
		try{
			stmt = conn.createStatement();
		}catch(Exception e){
			log.error("檢查日志表是否存在時(shí)發(fā)生錯(cuò)誤:"+e.getMessage());
			throw e;
		}finally{
			if(stmt!=null)
				try {
					stmt.close();
				} catch (Exception e) {
					//e.printStackTrace();
				}
		}
		conn.close();
		return state;
	}
	public void createTable(String table)throws Exception{
		try{
		Class.forName("com.mysql.jdbc.Driver");
	  //2. 獲得數(shù)據(jù)庫連接
	 Connection conn = DriverManager.getConnection(URL, USER, PASSWORD);
		String sql = "create table "+table+createsql;
		Statement stmt = null;
		stmt = conn.createStatement();
		stmt.execute(sql);
		}catch(Exception e){
			log.error("初始化日志表時(shí)發(fā)生錯(cuò)誤:"+e.getMessage());
			throw e;
		}
	}
}

補(bǔ)充:java水平分表_Java開發(fā)分庫分表需要解決的問題及mycat是怎樣實(shí)現(xiàn)分庫分表的

引言

從字面上簡(jiǎn)單理解,就是把原本存儲(chǔ)于一個(gè)庫的數(shù)據(jù)分塊存儲(chǔ)到多個(gè)庫上,把原本存儲(chǔ)于一個(gè)表的數(shù)據(jù)分塊存儲(chǔ)到多個(gè)表上。

數(shù)據(jù)庫中的數(shù)據(jù)量不一定是可控的,在未進(jìn)行分庫分表的情況下,隨著時(shí)間和業(yè)務(wù)的發(fā)展,庫中的表會(huì)越來越多,表中的數(shù)據(jù)量也會(huì)越來越大,相應(yīng)地,數(shù)據(jù)操作,增刪改查的開銷也會(huì)越來越大;

另外,由于無法進(jìn)行分布式式部署,而一臺(tái)服務(wù)器的資源(CPU、磁盤、內(nèi)存、IO等)是有限的,最終數(shù)據(jù)庫所能承載的數(shù)據(jù)量、數(shù)據(jù)處理能力都將遭遇瓶頸。

分庫分表的必要性

首先我們來了解一下為什么要做分庫分表。在我們的業(yè)務(wù)(web應(yīng)用)中,關(guān)系型數(shù)據(jù)庫本身比較容易成為系統(tǒng)性能瓶頸,單機(jī)存儲(chǔ)容量、連接數(shù)、處理能力等都很有限,數(shù)據(jù)庫本身的“有狀態(tài)性”導(dǎo)致了它并不像Web和應(yīng)用服務(wù)器那么容易擴(kuò)展。那么在我們的業(yè)務(wù)中,是否真的有必要進(jìn)行分庫分表,就可以從上面幾個(gè)條件來考慮。

單機(jī)儲(chǔ)存容量。您的數(shù)據(jù)量是否在單機(jī)儲(chǔ)存中碰到瓶頸。比如餓了么一天產(chǎn)生的用戶行為數(shù)據(jù)就有24T,那么在傳統(tǒng)的單機(jī)儲(chǔ)存中肯定是不夠的。

連接數(shù)、處理能力。在我們的用戶量達(dá)到一定程度時(shí),特定時(shí)間的并發(fā)量又成了一個(gè)大問題,在一個(gè)高并發(fā)的網(wǎng)站中秒級(jí)數(shù)十萬的并發(fā)量都是很正常的。在普通的單機(jī)數(shù)據(jù)庫中秒級(jí)千次的操作問題都很大。

所以在我們進(jìn)行分庫分表之前我們最好考慮一下,我們的數(shù)據(jù)量是不是夠大,并發(fā)量是不是夠大。如果您的回答是肯定的,那我們就開始做吧。

事務(wù)問題

解決事務(wù)問題目前有兩種可行的方案:分布式事務(wù)和通過應(yīng)用程序與數(shù)據(jù)庫共同控制實(shí)現(xiàn)事務(wù)下面對(duì)兩套方案進(jìn)行一個(gè)簡(jiǎn)單的對(duì)比。

方案一:使用分布式事務(wù)

優(yōu)點(diǎn):交由數(shù)據(jù)庫管理,簡(jiǎn)單有效

缺點(diǎn):性能代價(jià)高,特別是shard越來越多時(shí)

方案二:由應(yīng)用程序和數(shù)據(jù)庫共同控制

原理:將一個(gè)跨多個(gè)數(shù)據(jù)庫的分布式事務(wù)分拆成多個(gè)僅處 于單個(gè)數(shù)據(jù)庫上面的小事務(wù),并通過應(yīng)用程序來總控 各個(gè)小事務(wù)。

優(yōu)點(diǎn):性能上有優(yōu)勢(shì)

缺點(diǎn):需要應(yīng)用程序在事務(wù)控制上做靈活設(shè)計(jì)。如果使用 了spring的事務(wù)管理,改動(dòng)起來會(huì)面臨一定的困難。

分庫分表的實(shí)施策略。

分庫分表有垂直切分和水平切分兩種。

3.1 何謂垂直切分,即將表按照功能模塊、關(guān)系密切程度劃分出來,部署到不同的庫上。

例如,我們會(huì)建立定義數(shù)據(jù)庫workDB、商品數(shù)據(jù)庫payDB、用戶數(shù)據(jù)庫userDB、日志數(shù)據(jù)庫logDB等,分別用于存儲(chǔ)項(xiàng)目數(shù)據(jù)定義表、商品定義表、用戶數(shù)據(jù)表、日志數(shù)據(jù)表等。

3.2 何謂水平切分,當(dāng)一個(gè)表中的數(shù)據(jù)量過大時(shí),我們可以把該表的數(shù)據(jù)按照某種規(guī)則,例如userID散列,進(jìn)行劃分,然后存儲(chǔ)到多個(gè)結(jié)構(gòu)相同的表,和不同的庫上。

例如,我們的userDB中的用戶數(shù)據(jù)表中,每一個(gè)表的數(shù)據(jù)量都很大,就可以把userDB切分為結(jié)構(gòu)相同的多個(gè)userDB:part0DB、part1DB等,再將userDB上的用戶數(shù)據(jù)表userTable,切分為很多userTable:userTable0、userTable1等,然后將這些表按照一定的規(guī)則存儲(chǔ)到多個(gè)userDB上。

3.3 應(yīng)該使用哪一種方式來實(shí)施數(shù)據(jù)庫分庫分表,這要看數(shù)據(jù)庫中數(shù)據(jù)量的瓶頸所在,并綜合項(xiàng)目的業(yè)務(wù)類型進(jìn)行考慮。

如果數(shù)據(jù)庫是因?yàn)楸硖喽斐珊A繑?shù)據(jù),并且項(xiàng)目的各項(xiàng)業(yè)務(wù)邏輯劃分清晰、低耦合,那么規(guī)則簡(jiǎn)單明了、容易實(shí)施的垂直切分必是首選。

而如果數(shù)據(jù)庫中的表并不多,但單表的數(shù)據(jù)量很大、或數(shù)據(jù)熱度很高,這種情況之下就應(yīng)該選擇水平切分,水平切分比垂直切分要復(fù)雜一些,它將原本邏輯上屬于一體的數(shù)據(jù)進(jìn)行了物理分割,除了在分割時(shí)要對(duì)分割的粒度做好評(píng)估,考慮數(shù)據(jù)平均和負(fù)載平均,后期也將對(duì)項(xiàng)目人員及應(yīng)用程序產(chǎn)生額外的數(shù)據(jù)管理負(fù)擔(dān)。

在現(xiàn)實(shí)項(xiàng)目中,往往是這兩種情況兼而有之,這就需要做出權(quán)衡,甚至既需要垂直切分,又需要水平切分。我們的游戲項(xiàng)目便綜合使用了垂直與水平切分,我們首先對(duì)數(shù)據(jù)庫進(jìn)行垂直切分,然后,再針對(duì)一部分表,通常是用戶數(shù)據(jù)表,進(jìn)行水平切分。

mycat是怎樣實(shí)現(xiàn)分庫分表的?mycat里面通過定義路由規(guī)則來實(shí)現(xiàn)分片表(路由規(guī)則里面會(huì)定義分片字段,以及分片算法)。分片算法有多種,你所說的hash是其中一種,還有取模、按范圍分片等等。在mycat里面,會(huì)對(duì)所有傳遞的sql語句做路由處理(路由處理的依據(jù)就是表是否分片,如果分片,那么需要依據(jù)分片字段和對(duì)應(yīng)的分片算法來判斷sql應(yīng)該傳遞到哪一個(gè)、或者哪幾個(gè)、又或者全部節(jié)點(diǎn)去執(zhí)行)

看完上述內(nèi)容是否對(duì)您有幫助呢?如果還想對(duì)相關(guān)知識(shí)有進(jìn)一步的了解或閱讀更多相關(guān)文章,請(qǐng)關(guān)注億速云行業(yè)資訊頻道,感謝您對(duì)億速云的支持。

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI