python中怎么實現(xiàn)分布式進程

python中怎么實現(xiàn)分布式進程，針對這個問題，這篇文章詳細介紹了相對應(yīng)的分析和解答，希望可以幫助更多想解決這個問題的小伙伴找到更簡單易行的方法。

在Thread和Process中，應(yīng)當(dāng)優(yōu)選Process，因為Process更穩(wěn)定，而且，Process可以分布到多臺機器上，而Thread最多只能分布到同一臺機器的多個CPU上。

Python的multiprocessing模塊不但支持多進程，其中managers子模塊還支持把多進程分布到多臺機器上。一個服務(wù)進程可以作為調(diào)度者，將任務(wù)分布到其他多個進程中，依靠網(wǎng)絡(luò)通信。由于managers模塊封裝很好，不必了解網(wǎng)絡(luò)通信的細節(jié)，就可以很容易地編寫分布式多進程程序。

舉個例子：如果我們已經(jīng)有一個通過Queue通信的多進程程序在同一臺機器上運行，現(xiàn)在，由于處理任務(wù)的進程任務(wù)繁重，希望把發(fā)送任務(wù)的進程和處理任務(wù)的進程分布到兩臺機器上。怎么用分布式進程實現(xiàn)？

原有的Queue可以繼續(xù)使用，但是，通過managers模塊把Queue通過網(wǎng)絡(luò)暴露出去，就可以讓其他機器的進程訪問Queue了。

我們先看服務(wù)進程，服務(wù)進程負責(zé)啟動Queue，把Queue注冊到網(wǎng)絡(luò)上，然后往Queue里面寫入任務(wù)：

# task_master.py
 
import random, time, queue
from multiprocessing.managers import BaseManager
# 發(fā)送任務(wù)的隊列:
task_queue = queue.Queue()
# 接收結(jié)果的隊列:
result_queue = queue.Queue()
# 從BaseManager繼承的QueueManager:
class QueueManager(BaseManager):
  pass
# 把兩個Queue都注冊到網(wǎng)絡(luò)上, callable參數(shù)關(guān)聯(lián)了Queue對象:
QueueManager.register('get_task_queue', callable=lambda: task_queue)
QueueManager.register('get_result_queue', callable=lambda: result_queue)
# 綁定端口5000, 設(shè)置驗證碼'abc':
manager = QueueManager(address=('', 5000), authkey=b'abc')
# 啟動Queue:
manager.start()
# 獲得通過網(wǎng)絡(luò)訪問的Queue對象:
task = manager.get_task_queue()
result = manager.get_result_queue()
# 放幾個任務(wù)進去:
for i in range(10):
  n = random.randint(0, 10000)
  print('Put task %d...' % n)
  task.put(n)
# 從result隊列讀取結(jié)果:
print('Try get results...')
for i in range(10):
  r = result.get(timeout=10)
  print('Result: %s' % r)
# 關(guān)閉:
manager.shutdown()

請注意，當(dāng)我們在一臺機器上寫多進程程序時，創(chuàng)建的Queue可以直接拿來用，但是，在分布式多進程環(huán)境下，添加任務(wù)到Queue不可以直接對原始的task_queue進行操作，那樣就繞過了QueueManager的封裝，必須通過manager.get_task_queue()獲得的Queue接口添加。

然后，在另一臺機器上啟動任務(wù)進程（本機上啟動也可以）：

# task_master.py
import random, time, queue
from multiprocessing.managers import BaseManager
# 發(fā)送任務(wù)的隊列:
task_queue = queue.Queue()
# 接收結(jié)果的隊列:
result_queue = queue.Queue()
# 從BaseManager繼承的QueueManager:
class QueueManager(BaseManager):
  pass
# 把兩個Queue都注冊到網(wǎng)絡(luò)上, callable參數(shù)關(guān)聯(lián)了Queue對象:
QueueManager.register('get_task_queue', callable=lambda: task_queue)
QueueManager.register('get_result_queue', callable=lambda: result_queue)
# 綁定端口5000, 設(shè)置驗證碼'abc':
manager = QueueManager(address=('', 5000), authkey=b'abc')
# 啟動Queue:
manager.start()
# 獲得通過網(wǎng)絡(luò)訪問的Queue對象:
task = manager.get_task_queue()
result = manager.get_result_queue()
# 放幾個任務(wù)進去:
for i in range(10):
  n = random.randint(0, 10000)
  print('Put task %d...' % n)
  task.put(n)
# 從result隊列讀取結(jié)果:
print('Try get results...')
for i in range(10):
  r = result.get(timeout=10)
  print('Result: %s' % r)
# 關(guān)閉:
manager.shutdown()

任務(wù)進程要通過網(wǎng)絡(luò)連接到服務(wù)進程，所以要指定服務(wù)進程的IP。

現(xiàn)在，可以試試分布式進程的工作效果了。先啟動task_master.py服務(wù)進程：

$ python3 task_master.py 
Put task 3411...
Put task 1605...
Put task 1398...
Put task 4729...
Put task 5300...
Put task 7471...
Put task 68...
Put task 4219...
Put task 339...
Put task 7866...
Try get results...

task_master.py進程發(fā)送完任務(wù)后，開始等待result隊列的結(jié)果?，F(xiàn)在啟動task_worker.py進程：

$ python3 task_worker.pyConnect to server 127.0.0.1...
run task 3411 * 3411...
run task 1605 * 1605...
run task 1398 * 1398...
run task 4729 * 4729...
run task 5300 * 5300...
run task 7471 * 7471...
run task 68 * 68...
run task 4219 * 4219...
run task 339 * 339...
run task 7866 * 7866...
worker exit.

task_worker.py進程結(jié)束，在task_master.py進程中會繼續(xù)打印出結(jié)果：

Result: 3411 * 3411 = 11634921
Result: 1605 * 1605 = 2576025
Result: 1398 * 1398 = 1954404
Result: 4729 * 4729 = 22363441
Result: 5300 * 5300 = 28090000
Result: 7471 * 7471 = 55815841
Result: 68 * 68 = 4624
Result: 4219 * 4219 = 17799961
Result: 339 * 339 = 114921
Result: 7866 * 7866 = 61873956

這個簡單的Master/Worker模型有什么用？其實這就是一個簡單但真正的分布式計算，把代碼稍加改造，啟動多個worker，就可以把任務(wù)分布到幾臺甚至幾十臺機器上，比如把計算n*n的代碼換成發(fā)送郵件，就實現(xiàn)了郵件隊列的異步發(fā)送。

而Queue之所以能通過網(wǎng)絡(luò)訪問，就是通過QueueManager實現(xiàn)的。由于QueueManager管理的不止一個Queue，所以，要給每個Queue的網(wǎng)絡(luò)調(diào)用接口起個名字，比如get_task_queue。

authkey有什么用？這是為了保證兩臺機器正常通信，不被其他機器惡意干擾。如果task_worker.py的authkey和task_master.py的authkey不一致，肯定連接不上。

Python的分布式進程接口簡單，封裝良好，適合需要把繁重任務(wù)分布到多臺機器的環(huán)境下。

注意Queue的作用是用來傳遞任務(wù)和接收結(jié)果，每個任務(wù)的描述數(shù)據(jù)量要盡量小。比如發(fā)送一個處理日志文件的任務(wù)，就不要發(fā)送幾百兆的日志文件本身，而是發(fā)送日志文件存放的完整路徑，由Worker進程再去共享的磁盤上讀取文件。

關(guān)于python中怎么實現(xiàn)分布式進程問題的解答就分享到這里了，希望以上內(nèi)容可以對大家有一定的幫助，如果你還有很多疑惑沒有解開，可以關(guān)注億速云行業(yè)資訊頻道了解更多相關(guān)知識。