您好,登錄后才能下訂單哦!
小編給大家分享一下Java中多線程下載圖片并壓縮能不能提高效率,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!
需求 導(dǎo)出Excel:本身以為是一個(gè)簡單得導(dǎo)出,但是每行得記錄文件中有一列為圖片url,需要下載所有記錄行對應(yīng)得圖片,然后壓縮整個(gè)文件夾。
這里只做4.5.得代碼講解描述,其它也沒什么好說得,話不多說上代碼.
多線程實(shí)現(xiàn)使用了線程池,Jdk1.8并發(fā)包下的CompletableFuture
第一步:得到基礎(chǔ)數(shù)值
// 線程數(shù) Integer threadNum = 10; // 每條線程需要處理的圖片數(shù) int dataNum = imageInfoVos.size() / threadNum; // 寫入線程數(shù) List<Integer> threadS = new ArrayList<>(); for(int i=0; i<threadNum; i++){ threadS.add(i); }
首先我們保存了需要下載的圖片的Url列表,多線程的方式下載我們需要保證每個(gè)線程下載的圖片不會(huì)重復(fù),因此我們需要根據(jù)規(guī)則來切割保存Url列表的集合,從而保證每個(gè)線程下載屬于自己的任務(wù),上代碼:
// 接上文代碼 threadS.stream().map(item -> CompletableFuture.runAsync(() ->{ List<Image> theadItem = imageInfoVos.subList(dataNum * item,(item+1)==threadNum?imageInfoVos.size():Math.min(dataNum * (item + 1 ), imageInfoVos.size())); threadDownPic(theadItem,item,dirName); },threadPoolTaskExecutor)).collect(Collectors.toList()).forEach(item ->{ try { item.get(); }catch (Exception e){ log.error("============ 多線程down執(zhí)行等待異常 msg:{} =============", e.getMessage()); } });
這里進(jìn)行拆分講解
使用CompletableFuture.runAsync 走異步方式,遍歷item
如item=10,也就是線程數(shù)為10,則直接執(zhí)行10次(有線程池的前提下
)
// 使用CompletableFuture.runAsync 走異步方式,遍歷item // 如item=10,也就是線程數(shù)為10,則直接執(zhí)行10次(有線程池的前提下) threadS.stream().map(item -> CompletableFuture.runAsync(() ->{
規(guī)則:
根據(jù)item數(shù)值通過sublist 從開始到結(jié)束,截取對應(yīng)線程所需要下載的Url列表
例:dataNum為每個(gè)線程需要完成的下載數(shù)如上文 dataNum為100時(shí)
如:item=0 dataNum* item(0) =0,Math.min(dataNum * (item + 1 )=100
(item+1)==threadNum?imageInfoVos.size() 此次是為了保證最后一個(gè)線程處理最后不足的圖片
根據(jù)如上規(guī)則即可得到每個(gè)線程需要下載的圖片Url保證不會(huì)重復(fù)
// 根據(jù)item數(shù)值通過sublist 從開始到結(jié)束,截取對應(yīng)線程所需要下載的Url列表 // 例:dataNum為每個(gè)線程需要完成的下載數(shù)如上文 dataNum為100時(shí) // 如:item=0 dataNum* item(0) =0,Math.min(dataNum * (item + 1 )=100 // 根據(jù)如上規(guī)則即可得到每個(gè)線程需要下載的圖片Url保證不會(huì)重復(fù) // (item+1)==threadNum?imageInfoVos.size() 此次是為了保證最后一個(gè)線程處理最后不足的圖片 List<ImageInfoVo> theadItem = imageInfoVos.subList(dataNum * item,(item+1)==threadNum?imageInfoVos.size():Math.min(dataNum * (item + 1 ), imageInfoVos.size())); // theadItem:圖片Url item:所屬下標(biāo) dirName:寫入路徑url threadDownPic(theadItem,item,dirName);
由于執(zhí)行的異步方式,此處是為了線程池中所有線程都結(jié)束才能往下走,執(zhí)行壓縮文件步驟,這里提一嘴,如果沒有手動(dòng)賦予線程池,CompletableFuture默認(rèn)使用ForkJoinPool.commonPool,會(huì)根據(jù)電腦核心數(shù)來指定,
比如:我本機(jī)未指定就是7個(gè)線程,執(zhí)行方法時(shí),會(huì)執(zhí)行完前面7個(gè)線程任務(wù),才會(huì)繼續(xù)創(chuàng)建3個(gè)線程繼續(xù)執(zhí)行后續(xù)未完成的
},threadPoolTaskExecutor)).collect(Collectors.toList()).forEach(item ->{ try { item.get(); }catch (Exception e){ log.error("============ 多線程down執(zhí)行等待異常 msg:{} =============", e.getMessage()); } });
主要代碼也寫完了,這種方式真的能提高效率嗎?下面我貼幾張測試圖來說明
其實(shí)這種方式并沒有顯著的提高效率,當(dāng)然這是我本機(jī)環(huán)境測試的。
效率是由網(wǎng)速?zèng)Q定,而不是由本機(jī)Cpu和io決定,比如10M帶寬,一個(gè)線程一個(gè)一個(gè)順序下載,但速度是10M,10個(gè)線程,可能每個(gè)線程的速度是1M,結(jié)果沒有什么兩樣。
相對于網(wǎng)速,多線程帶來的cpu以及io節(jié)省的時(shí)間幾乎可以忽略,瓶頸還是在網(wǎng)速.
以上是“Java中多線程下載圖片并壓縮能不能提高效率”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對大家有所幫助,如果還想學(xué)習(xí)更多知識,歡迎關(guān)注億速云行業(yè)資訊頻道!
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。