Python怎么讀寫內(nèi)存映射文件

小編這次要給大家分享的是Python怎么讀寫內(nèi)存映射文件，文章內(nèi)容豐富，感興趣的小伙伴可以來了解一下，希望大家閱讀完這篇文章之后能夠有所收獲。

我就廢話不多說了，還是直接看代碼吧！

import os
import time
import mmap
 
filename = 'test.txt'
 
#如果不存在，創(chuàng)建。
if not os.path.exists(filename):
 open(filename, 'w')
 
print(os.path.isdir(filename))
if os.path.isfile(filename):
 print(time.ctime(os.path.getctime(filename)))
 
fd = os.open(filename, os.O_RDWR)
m = mmap.mmap(fd, 50, access=mmap.ACCESS_WRITE) # 1024字節(jié)的文件。
m.seek(2) 
buf1 = bytes(b'Zhang')
m[2:len(buf1)+2] = buf1
 
buf2 = b'Phil'
 
m.seek(20) # 定位寫入的位置。
m.write(buf2) # 寫入字節(jié)數(shù)據(jù)。
m.close()
 
fd = os.open(filename, os.O_RDWR)
m = mmap.mmap(fd, 50, access=mmap.ACCESS_READ)
m.seek(20)
buf3 = m.read(len(buf2))
m.close()
print(list(buf3))

操作后的test.txt文件內(nèi)容：

Zhang Phil

補充知識：Python對二進制文件做內(nèi)存映射，高效優(yōu)雅地對內(nèi)容隨機訪問

讀寫二進制文件還在使用open函數(shù)？

各種組合seek()、read()和write()累不累？

使用 mmap 模塊實現(xiàn)對文件的內(nèi)存映射，讓我們讀寫二進制文件像操作數(shù)組一樣高效優(yōu)雅。

先給出一個實用函數(shù)，用來演示如何打開一個文件并對它進行內(nèi)存映射操作。

def memory_map(filename, access=mmap.ACCESS_WRITE):
 size = os.path.getsize(filename)
 fd = os.open(filename, os.O_RDWR)
 return mmap.mmap(fd, size, access=access)

要使用這個函數(shù)，需要先準備一個已經(jīng)創(chuàng)建好的文件并為之填充一些數(shù)據(jù)。

>>> size = 1000000
>>> with open('data','wb') as f:
  f.seek(size-1)
  f.write(b'\x00')

接著我們可以使用memory_map()函數(shù)對文件內(nèi)容做內(nèi)存映射，它返回的mmap對象可以讓我們像操作數(shù)組一樣讀寫二進制文件！

>>> m = memory_map('data')
>>> len(m)
1000000
>>> m[:10]
b'\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00'
>>> m[0]
0
>>> m[0:11]=b'Hello World'#改變一個切片
>>> m.close()
>>> with open('data','rb') as f:#驗證改變已經(jīng)生效
 print(f.read(11))
 
b'Hello World'

由于mmap()返回的mmap對象也可以當作上下文管理器使用，在這種情況下，底層的文件會自動關(guān)閉。

>>> with memory_map('data') as m:
 print(len(m))
 print(m[0:11])
 
1000000
b'Hello World'

默認情況下memory_map()函數(shù)打開的文件既可以讀，也可以寫。對數(shù)據(jù)的任何修改都會拷貝回原始的文件中。

如果需要只讀訪問，可以為access參數(shù)提供mmap.ACCESS_READ值。

m = memory_map(filename, mmap.ACCESS_READ)

如果只想要在本地修改數(shù)據(jù)，并不想將這些修改寫回到原始文件中，可以使用mmap.ACCESS_COPY參數(shù)。

m = memory_map(filename, mmap.ACCESS_COPY)

總結(jié)：

通過mmap將文件映射到內(nèi)存之后，我們可以高效并優(yōu)雅地對文件的內(nèi)容進行隨機訪問。

與其打開文件后通過組合各種seek()、read()和write()調(diào)用來訪問，不如簡單將文件映射到內(nèi)存，然后通過切片操作來訪問數(shù)據(jù)。

需要強調(diào)的是，對某個文件進行內(nèi)存映射并不會導(dǎo)致將整個文件讀到內(nèi)存中。也就是說，文件并不會拷貝到某種內(nèi)存緩沖區(qū)或數(shù)組上。相反，操作系統(tǒng)只是為文件內(nèi)容保留一段虛擬內(nèi)存而已。

當訪問文件的不同區(qū)域時，文件的這些區(qū)域?qū)⒈蛔x取并按照需要映射到內(nèi)存區(qū)域中。但是，文件中從未訪問過的部分會簡單地留在磁盤上。這一切都是以透明的方式在幕后完成的。

如果有多個Python解釋器對同一個文件做了內(nèi)存映射，得到的mmap對象可以用來在解釋器之間交換數(shù)據(jù)。也就是說，所有的解釋器可以同時讀/寫數(shù)據(jù)，在一個解釋器中對數(shù)據(jù)做出的修改會自動反映到其他解釋器上。

雖然還需要一些額外的步驟來處理同步問題，但是有時候可以使用這種方法作為通過管道或者socket傳輸數(shù)據(jù)的替代方案。

看完這篇關(guān)于Python怎么讀寫內(nèi)存映射文件的文章，如果覺得文章內(nèi)容寫得不錯的話，可以把它分享出去給更多人看到。