溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

Python Celery怎么調(diào)度Go worker

發(fā)布時(shí)間:2021-11-29 09:41:11 來源:億速云 閱讀:149 作者:iii 欄目:大數(shù)據(jù)

本篇內(nèi)容主要講解“Python Celery怎么調(diào)度Go worker”,感興趣的朋友不妨來看看。本文介紹的方法操作簡(jiǎn)單快捷,實(shí)用性強(qiáng)。下面就讓小編來帶大家學(xué)習(xí)“Python Celery怎么調(diào)度Go worker”吧!

我們可以用Go寫一個(gè)計(jì)算密集型任務(wù)的Worker,然后用Python的Celery beat來調(diào)度這個(gè)Worker,下面給大家演示一下:

1.編寫Go Worker

最好是將計(jì)算密集型的任務(wù)改造成Go語言版的,這樣收益才能最大化。

比如這里,我使用的是上回從1億減到1的老梗。

PS,別被下面這段代碼嚇到了,其實(shí)大部分是可以去掉的配置項(xiàng),核心代碼就幾行。

Python Celery怎么調(diào)度Go worker

輸入命令:

go run main.go

即可運(yùn)行該worker

2.編寫Python客戶端

Python Celery怎么調(diào)度Go worker

每5秒調(diào)度一次1億減到1,不過不跑Python worker. 由于Go Worker在運(yùn)行,這里的minus會(huì)被Go Worker消費(fèi)。

另外請(qǐng)注意,這里的minus函數(shù)實(shí)際上只是為了能被識(shí)別到而編寫的,其內(nèi)容毫無意義,直接寫個(gè)pass都沒問題(因?yàn)閷?shí)際上是Go Worker在消費(fèi))。

編寫完后,針對(duì)go_tasks模塊啟動(dòng)beat:

celery -A go_tasks beat

此時(shí),調(diào)度器就會(huì)調(diào)度Go Worker執(zhí)行任務(wù):

Python Celery怎么調(diào)度Go worker

Python Celery怎么調(diào)度Go worker

可以看到,我們成功用Python的Celery Beat調(diào)度了Go寫的Worker!可喜可賀。

接下來可以看看如果單純用Python的Worker做這樣的計(jì)算是有多耗時(shí):

Python Celery怎么調(diào)度Go worker

啟動(dòng)worker:

celery worker -A python_tasks -l info --pool=eventlet

啟動(dòng)beat調(diào)度器:

celery -A python_tasks beat

結(jié)果如下:

Python Celery怎么調(diào)度Go worker

可以看到,Python從1億減到1平均需要5.2秒左右的時(shí)間,和Go版相差了100倍左右。

如果我們將調(diào)度器的頻率提高到每秒計(jì)算1次,Python版的Worker,其任務(wù)隊(duì)列一定會(huì)堵塞,因?yàn)閃orker消費(fèi)能力不夠強(qiáng)大。相比之下,Go版的Worker可就非常給力了。

因此,如果你的項(xiàng)目中有這種計(jì)算密集型的任務(wù),可以嘗試將其提取成Go版本試試,說不定有驚喜呢。

到此,相信大家對(duì)“Python Celery怎么調(diào)度Go worker”有了更深的了解,不妨來實(shí)際操作一番吧!這里是億速云網(wǎng)站,更多相關(guān)內(nèi)容可以進(jìn)入相關(guān)頻道進(jìn)行查詢,關(guān)注我們,繼續(xù)學(xué)習(xí)!

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI