R語言如何通過parallel包實(shí)現(xiàn)多線程運(yùn)行方式

這篇文章將為大家詳細(xì)講解有關(guān)R語言如何通過parallel包實(shí)現(xiàn)多線程運(yùn)行方式，小編覺得挺實(shí)用的，因此分享給大家做個(gè)參考，希望大家閱讀完這篇文章后可以有所收獲。

什么是R語言

R語言是用于統(tǒng)計(jì)分析、繪圖的語言和操作環(huán)境，屬于GNU系統(tǒng)的一個(gè)自由、免費(fèi)、源代碼開放的軟件，它是一個(gè)用于統(tǒng)計(jì)計(jì)算和統(tǒng)計(jì)制圖的優(yōu)秀工具。

總的來說，R的運(yùn)算速度不算快，不過類似并行運(yùn)算之類的改進(jìn)可以提高運(yùn)算的性能。下面非常簡(jiǎn)要地介紹如何利用R語言進(jìn)行并行運(yùn)算

library(parallel)cl.cores <- detectCores()cl <- makeCluster(cl.cores)

detectCores( )檢查當(dāng)前電腦可用核數(shù)。

makeCluster(cl.cores)使用剛才檢測(cè)的核并行運(yùn)算。R-Doc里這樣描述makeCluster函數(shù)：Creates a set of copies of R running in parallel and communicating over sockets. 即同時(shí)創(chuàng)建數(shù)個(gè)R進(jìn)行并行運(yùn)算。

在該函數(shù)執(zhí)行后就已經(jīng)開始并行運(yùn)算了，電腦可能會(huì)變卡一點(diǎn)。尤其在執(zhí)行par開頭的函數(shù)時(shí)。

在并行運(yùn)算環(huán)境下，常用的一些計(jì)算方法如下：

1. clusterEvalQ(cl,expr)函數(shù)利用創(chuàng)建的cl執(zhí)行expr

這里利用剛才創(chuàng)建的cl核并行運(yùn)算expr。expr是執(zhí)行命令的語句，不過如果命令太長(zhǎng)的話，一般寫到文件里比較好。比如把想執(zhí)行的命令放在Rcode.r里：

clusterEvalQ(cl,source(file="Rcode.r"))

2.par開頭的apply函數(shù)族

這族函數(shù)和apply的用法基本一樣，不過要多加一個(gè)參數(shù)cl。一般如果cl創(chuàng)建如上面cl <- makeCluster(cl.cores)的話，這個(gè)參數(shù)可以直接用作parApply(cl=cl,…)。

當(dāng)然Apply也可以是Sapply,Lapply等等。注意par后面的第一個(gè)字母是要大寫的，而一般的apply函數(shù)族第一個(gè)字母不大寫。另外要注意，即使構(gòu)建了并行運(yùn)算的核，不使用parApply()函數(shù)，而使用apply()函數(shù)的話，則仍然沒有實(shí)現(xiàn)并行運(yùn)算。

換句話說，makeCluster只是創(chuàng)建了待用的核，而不是并行運(yùn)算的環(huán)境。

最后，終止并行運(yùn)算只需要一行命令

stopCluster(cl)

案例1

不使用并行計(jì)算，直接使用lapply（隱式循環(huán)函數(shù)，它實(shí)際就是對(duì)不同的數(shù)據(jù)應(yīng)用了相同的函數(shù)）：

fun <- function(x){return (x+1);}system.time({res <- lapply(1:5000000, fun);});user  system elapsed21.42    1.74   25.70

案例2

使用parallel包來加速

library(parallel)#打開四核，具體核數(shù)根據(jù)機(jī)器的核數(shù)決定cl <- makeCluster(getOption("cl.cores", 4));system.time({res <- parLapply(cl, 1:5000000,  fun)});user system elapsed6.54 0.34 19.95#關(guān)閉并行計(jì)算stopCluster(cl);

看看單核機(jī)器跑出來的結(jié)果：

user  system elapsed29.30    9.23   97.22

所以，并非核數(shù)越多越好，看機(jī)器配置。

這個(gè)函數(shù)有兩點(diǎn)要注意：

首先要先用detectCores函數(shù)確定系統(tǒng)核心數(shù)目，對(duì)于Window系統(tǒng)下的Intel I5或I7 處理器，一般使用detectCores(logical = F)來獲得實(shí)際的物理核心數(shù)量。

由于這個(gè)函數(shù)使用的是調(diào)用Rscript的方式，這個(gè)例子里，對(duì)象被復(fù)制了三份，因此內(nèi)存會(huì)吃的很厲害，在大數(shù)據(jù)條件就要小心使用。

案例3

在Linux下使用mclapply函數(shù)的效果如下：

mc <- getOption("mc.cores", 3)system.time({res <- mclapply(1:5000000, fun, mc.cores = mc);});user system elapsed6.657 0.500 7.181 stopCluster(cl);

補(bǔ)充：R語言如何并行處理[parallel package][向量化操作并行優(yōu)化]

使用數(shù)據(jù)，長(zhǎng)下面這樣：

方法：

使用parallel包，并行向量化處理，進(jìn)一步提升原先向量化處理速度。

原始代碼：

start <- Sys.time()experiment_step1 <- apply(dtc_small_modify, 1, decompose)end <- Sys.time()print(end-start)

原始運(yùn)行時(shí)間：3.083114 分

使用parallel包后

library(parallel) #并行處理包c(diǎn)l.cores <- detectCores(logical = F) #計(jì)算電腦核心數(shù)cl <- makeCluster(cl.cores) # 初始化要使用的核心數(shù)start <- Sys.time()results <- parApply(cl=cl, dtc_small_modify, 1, decompose) # apply的并行版本stopCluster(cl) # 關(guān)閉并行模式end <- Sys.time()print(end-start)

并行后

運(yùn)行時(shí)間：55.5877 秒，相較原先，速度提升了將近四倍！

Tips：上述是對(duì)向量化（Vectorization）apply類的并行處理。對(duì)于apply的并行處理，必須使用par開頭的對(duì)應(yīng)apply.

列表如下：

parLapply(cl = NULL, X, fun, …, chunk.size = NULL) parSapply(cl = NULL, X, FUN, …, simplify = TRUE, USE.NAMES = TRUE, chunk.size = NULL) parApply(cl = NULL, X, MARGIN, FUN, …, chunk.size = NULL) parRapply(cl = NULL, x, FUN, …, chunk.size = NULL) parCapply(cl = NULL, x, FUN, …, chunk.size = NULL) parLapplyLB(cl = NULL, X, fun, …, chunk.size = NULL) parSapplyLB(cl = NULL, X, FUN, …, simplify = TRUE, USE.NAMES = TRUE, chunk.size = NULL)

使用apply類向量化操作后，常常產(chǎn)生大規(guī)模列表，可能需要將列表轉(zhuǎn)成一個(gè)完整的大數(shù)據(jù)框。

關(guān)于“R語言如何通過parallel包實(shí)現(xiàn)多線程運(yùn)行方式”這篇文章就分享到這里了，希望以上內(nèi)容可以對(duì)大家有一定的幫助，使各位可以學(xué)到更多知識(shí)，如果覺得文章不錯(cuò)，請(qǐng)把它分享出去讓更多的人看到。