怎么用pandas處理hdf5文件

本篇內(nèi)容介紹了“怎么用pandas處理hdf5文件”的有關(guān)知識，在實際案例的操作過程中，不少人都會遇到這樣的困境，接下來就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧！希望大家仔細(xì)閱讀，能夠?qū)W有所成！

什么是HDF5

HDF5：Hierarchical Data Format Version 5，對于存儲大規(guī)模、具有相同類型的數(shù)據(jù)，HDF5是一種非常不錯的存儲格式，文件后綴名為h6。這種格式的文件的存儲和讀取速度非?？?，并且我們可以把HDF5文件看成是一個"目錄"，它是分層次的，我們來看看如何操作。

創(chuàng)建和讀取HDF5文件

import pandas as pd
import numpy as np

hdf5 = pd.HDFStore("hello.h6", mode="w", complevel=9)
"""
path: 文件路徑
mode: 和python的open函數(shù)中的mode一致
complevel: 壓縮級別，默認(rèn)是0到9。值越大，壓縮程度越高，那么最終形成的文件所占的體積越小，但是相應(yīng)的，在讀取的時候用的解壓縮的時間就越長
"""
# 打印是一個HDFStore對象
print(hdf5) # <class 'pandas.io.pytables.HDFStore'>

# 存儲數(shù)據(jù)，可以直接使用賦值的方式
hdf5["series"] = pd.Series([1, 2, 3, 4, 5])
hdf5["dataframe"] = pd.DataFrame(np.random.randint(3, 10, size=(8, 4)))
# 除此之外，還可以使用put的方式
"""
hdf5.put("series", pd.Series([1, 2, 3, 4, 5]))
hdf5.put("dataframe", pd.DataFrame(np.random.randint(3, 10, size=(8, 4))))

put函數(shù)里面支持如下參數(shù)：
key：寫入數(shù)據(jù)的key
value：寫入數(shù)據(jù)的value
format：指定寫出的模式，指定為"fixed"，那么速度會快，但是不支持追加和查詢。指定為"table"，會以表格的模式寫出，速度稍慢，但是支持追加和查詢操作
"""

# 我們可以通過items來查看相應(yīng)屬性，類似于字典的items
print(list(hdf5.items()))
"""
File path: hello.h6

[('/dataframe', /dataframe (Group) ''
 children := ['axis0' (CArray), 'axis1' (CArray), 'block0_values' (CArray), 'block0_items' (CArray)]), ('/series', /series (Group) ''
 children := ['index' (CArray), 'values' (CArray)])]
"""
# items不太好看，我們來看keys，查看keys，但是注意：沒有values
# 我們發(fā)現(xiàn)key是類似于目錄一樣的東西，名字就是我們設(shè)置的名字
# 所以我們可以把HDF5看成是目錄，里面不同的目錄對應(yīng)不同的內(nèi)容
print(hdf5.keys()) # ['/dataframe', '/series']

# 查看元素直接調(diào)用即可
print(hdf5["dataframe"])
"""
  0 1 2 3
0 4 8 5 6
1 4 6 7 9
2 6 3 9 4
3 8 9 3 9
4 6 6 3 4
5 6 9 9 8
6 4 8 9 6
7 9 5 8 8
"""

# 刪除某個key，調(diào)用remove
hdf5.remove("series")
print(hdf5.keys()) # ['/dataframe']

# 如果想將數(shù)據(jù)保存到本地，那么調(diào)用close方法即可
hdf5.close()
# 查看數(shù)據(jù)流是否開啟，返回False代表關(guān)閉了
print(hdf5.is_open) # False

# 另外創(chuàng)建HDF5文件，除了使用HDFStore，還可以通過先有的DataFrame進(jìn)行操作。需要指定路徑和key
# df.to_hdf("xx.h6", key="key")

下面來看看如何讀取文件

import pandas as pd
import numpy as np

# 將mode改成r即可
hdf5 = pd.HDFStore("hello.h6", mode="r")
# 或者
"""
hdfs = pd.read_hdf("hello.h6", key="xxx")
"""
# 至于操作我們上面已經(jīng)介紹了

hdf5這種格式是一種非常不錯的格式，它無論是在存儲方面和讀取方面，文件大小和讀取數(shù)據(jù)都比csv強(qiáng)不少，因此如果要存儲大量的數(shù)據(jù)的話，那么hdf5這種文件格式是一種非常不錯的選擇。

“怎么用pandas處理hdf5文件”的內(nèi)容就介紹到這里了，感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識可以關(guān)注億速云網(wǎng)站，小編將為大家輸出更多高質(zhì)量的實用文章！