您好,登錄后才能下訂單哦!
小編給大家分享一下如何解決R語言循環(huán)慢的問題,希望大家閱讀完這篇文章之后都有所收獲,下面讓我們一起去探討吧!
R語言是用于統(tǒng)計分析、繪圖的語言和操作環(huán)境,屬于GNU系統(tǒng)的一個自由、免費(fèi)、源代碼開放的軟件,它是一個用于統(tǒng)計計算和統(tǒng)計制圖的優(yōu)秀工具。
先查下自己電腦幾核的,n核貌似應(yīng)該選跑n個線程,線程不是越多越好,線程個數(shù)和任務(wù)運(yùn)行時間是條開口向下的拋物線,最高點預(yù)計在電腦的核數(shù)上。
detectCores( )檢查當(dāng)前電腦可用核數(shù) 我的是4所以step2選的是4
library(parallel) cl.cores <- detectCores()
多線程計算
setwd("C:\\Users\\siyuanmao\\Documents\\imdada\\0-渠道投放和新人券聯(lián)動模型\\測算") options(scipen=3) ##取消科學(xué)計數(shù)法 channel_ad_ios_data<-seq(0,50000,5000) channel_ad_android_data<-seq(0,100000,10000) library(parallel) func <- function(n){#n=1 result_data<-read.csv("發(fā)券方案.csv",stringsAsFactors=FALSE) total_coupon_solution_data<-read.csv("結(jié)果表框架.csv",stringsAsFactors=FALSE) coupon_solution_data<-subset(result_data,solution== paste('方案',n,sep="")) for (i in 1:11){#i=3 coupon_solution_data$channel_ad_cost[3]<-5000*(i-1) for (j in 1:11){#j=5 coupon_solution_data$channel_ad_cost[4]<-10000*(j-1) solution_mark<-paste('方案',n,i,j,sep="-") coupon_solution_data$solution<-solution_mark total_coupon_solution_data<-rbind(total_coupon_solution_data,coupon_solution_data) } } print(solution_mark) return(total_coupon_solution_data) } #func(10) system.time({ x <- 1:7776 cl <- makeCluster(4) # 初始化四核心集群 results <- parLapply(cl,x,func) # lapply的并行版本 res.df <- do.call('rbind',results) # 整合結(jié)果 stopCluster(cl) # 關(guān)閉集群 }) df=as.data.frame(res.df)
原來非多線程的時候,我預(yù)計要跑12個小時以上,電腦發(fā)出呼呼~~的響聲,查了下Python循環(huán)會快點,然后改為python版(已經(jīng)很久沒有用了,連個range都不會寫,摸索了大半天才改好,但是速度還是慢==),于是改成多線程,運(yùn)行25分鐘就出結(jié)果了~~
補(bǔ)充:R語言 多線程
install.packages("parallel") library(parallel)
detectCores() 檢查當(dāng)前的可用核數(shù)
clusterExport() 配置當(dāng)前環(huán)境
makeCluster() 分配核數(shù)
stopCluster() 關(guān)閉集群
parLapply() lapply()函數(shù)的并行版本
其實R語言本來就是一門向量化語言,如果是對于一個向量的操作,使用apply函數(shù)一族能獲得比較高的效率,相比于for循環(huán),這種高效來自于:
用C實現(xiàn)了for循環(huán)
減少對于data.frame等數(shù)據(jù)結(jié)構(gòu)等不必要的拷貝
但是很多時候,如果想更快的話,光apply函數(shù)一族還不足夠,這時候就能用上多線程。
R語言parallel包可以幫助實現(xiàn)多線程。
cl.cores <- detectCores() #結(jié)果 > cl.cores [1] 8
cl <- makeCluster(4) # 初始化四核心集群 ###并行任務(wù) stopCluster(cl) # 關(guān)閉集群
#定義計算平方函數(shù) square <- function(x) { return(x^2) }
#利用并行計算計算平方函數(shù) num <- c(1:3) cl <- makeCluster(4) # 初始化四核心集群 results <- parLapply(cl,num,square)#調(diào)用parLapply并行計算平方函數(shù) final <- do.call('c',results)#整合結(jié)果 stopCluster(cl) # 關(guān)閉集群 #結(jié)果 > final [1] 1,4,9
思考:在如此小的計算方式下,開4個核計算是否比開一個核要快
答案:當(dāng)然是不一定,因為涉及到調(diào)度方式等額外開銷,所以不一定快,因為真正并行起作用的地方在于大數(shù)據(jù)量的計算。
兩段對比代碼
#定義計算平方函數(shù) square <- function(x) { ######### #一段冗余代碼增加執(zhí)行時間 y = 2*x if(y <300) {z = y} else {z = x} ########## return(x^2) } num <- c(1:10000000)
#并行計算 print(system.time({ cl <- makeCluster(4) # 初始化四核心集群 results <- parLapply(cl,num,square)#調(diào)用parLapply并行計算平方函數(shù) final <- do.call('c',results)#整合結(jié)果 stopCluster(cl) # 關(guān)閉集群 })) #結(jié)果 用戶 系統(tǒng) 流逝 7.89 0.27 19.01
#普通計算 print(system.time({ results <- lapply(num,square) final <- do.call('c',results)#整合結(jié)果 })) #結(jié)果 用戶 系統(tǒng) 流逝 29.74 0.00 29.79
顯然在數(shù)據(jù)量比較大的時候,并行計算的時間幾乎就是于核數(shù)反比。不過,也不是多開幾個核就好,注意內(nèi)存很容易超支的,每個核都分配相應(yīng)的內(nèi)存,所以要注意內(nèi)存開銷。出現(xiàn)內(nèi)存問題的時候,需要檢查是否代碼是否合理,R語言版本(64位會比32位分配的內(nèi)存大),核分配是否合理。
R語言里邊對于環(huán)境變量有著有趣的定義,一層套一層,這里不做深入展開。
類似于在c語言函數(shù)中使用全局變量,R在執(zhí)行并行計算的時候,如果需要計算的函數(shù)出現(xiàn)在全局(上一級),那么就需要聲明引入這個變量,否則將會報錯。
#定義計算冪函數(shù) base = 2 square <- function(x) { return(x^base) } num <- c(1:1000000)
#利用并行計算計算冪函數(shù) cl <- makeCluster(4) # 初始化四核心集群 results <- parLapply(cl,num,square)#調(diào)用parLapply并行計算平方函數(shù) final <- do.call('c',results)#整合結(jié)果 stopCluster(cl) # 關(guān)閉集群 #結(jié)果報錯 Error in checkForRemoteErrors(val) : 4 nodes produced errors; first error: 找不到對象'base'
#利用并行計算計算冪函數(shù) cl <- makeCluster(4) # 初始化四核心集群 clusterExport(cl,"base",envir = environment()) results <- parLapply(cl,num,square)#調(diào)用parLapply并行計算平方函數(shù) final <- do.call('c',results)#整合結(jié)果 stopCluster(cl) # 關(guān)閉集群 #結(jié)果 > final [1] 1,4,9,16,25.......
除了parallel包以外,還有針對并行for循環(huán)的foreach包,foreach()的使用也與parLapply()類似,兩個功能也類似,其中遇到的問題也類似。
install.packages("foreach") library(parallel)
#定義計算冪函數(shù) square <- function(x) { return(x^2) }
非并行情況的使用:
參數(shù)中的combine就是整合結(jié)果的函數(shù),可以是c,可以是rbind,也可以是+等
results = foreach(x = c(1:3),.combine = 'c') %do% square(x) #結(jié)果 > results [1] 1,4,9
并行情況的使用:
注意并行情況的時候,需要與parallel包進(jìn)行配合,引入library(doParallel)。同時%do%需要改成%dopar%。另外與parallel包不一樣的是,需要多加一句registerDoParallel(cl)來注冊核進(jìn)行使用。
cl <- makeCluster(4) registerDoParallel(cl) results = foreach(x = c(1:100000),.combine = 'c') %dopar% square(x) stopCluster(cl)
同parallel包并行計算前需要clusterExport()來引入全局變量一樣,foreach也同樣需要聲明,不同的是,foreach聲明方式直接寫在foreach()的參數(shù)export里邊。
#定義計算冪函數(shù) base = 2 square <- function(x) { return(x^base) } cl <- makeCluster(4) registerDoParallel(cl) results = foreach(x = c(1:100000),.combine = 'c',.export ='base' ) %dopar% square(x) stopCluster(cl)
看完了這篇文章,相信你對“如何解決R語言循環(huán)慢的問題”有了一定的了解,如果想了解更多相關(guān)知識,歡迎關(guān)注億速云行業(yè)資訊頻道,感謝各位的閱讀!
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。