Python中在， 利用多線程實(shí)現(xiàn)不加鎖分塊讀取文件

本篇文章給大家分享的是有關(guān)Python中在， 利用多線程實(shí)現(xiàn)不加鎖分塊讀取文件，小編覺得挺實(shí)用的，因此分享給大家學(xué)習(xí)，希望大家閱讀完這篇文章后可以有所收獲，話不多說，跟著小編一起來看看吧。

多線程讀取或?qū)懭耄话銜婕暗酵降膯栴}，否則產(chǎn)生的結(jié)果是無法預(yù)期的。那么在讀取一個(gè)文件的時(shí)候，我們可以通過加鎖，但讀不像寫操作，會導(dǎo)致文件錯(cuò)誤，另外鎖操作是有一定的耗時(shí)。因此通過文件分塊，可以比較有效的解決多線程讀問題，之前看到有人寫的分塊操作，比較復(fù)雜，需要實(shí)現(xiàn)建立好線程以及所讀取塊信息，在這里，我提供了一種比較簡便的方法，以供參考。

#!/user/bin/env python
#_*_coding:utf-8_*_
from threading import Thread
import time
from processing import Process, Queue

from multiprocessing import Process

file_path = 't'
fd = open(file_path, 'r')


def deal(thread_num):

 i = 1
 line_list = []

 #20是我的文件行數(shù)，正式情況下可以通過wc -l t獲取
 while i <= 20/thread_num:
 line_list.append(fd.readline())
 i += 1
 return line_list


def todo(thread_name, line_list):
 # print 'thread_name:',thread_name,'start'
 for line in line_list:
 print str(thread_name) + ' counsume:' + line
 # print 'thread_name:', thread_name, 'end'


if __name__ == '__main__':
 thread_num = 10
 thread_list = []
 for i in range(thread_num):
 line_list = deal(thread_num)
 t = Thread(target=todo, args=[i, line_list])
 t.start()
 thread_list.append(t)

 for t in thread_list:
 t.join()

下面是文件格式：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

運(yùn)行的結(jié)果如下：

以上就是Python中在， 利用多線程實(shí)現(xiàn)不加鎖分塊讀取文件，小編相信有部分知識點(diǎn)可能是我們?nèi)粘９ぷ鲿姷交蛴玫降?。希望你能通過這篇文章學(xué)到更多知識。更多詳情敬請關(guān)注億速云行業(yè)資訊頻道。