溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

一行代碼讓 Python 的運行速度提高100倍

發(fā)布時間:2020-07-03 09:40:13 來源:網(wǎng)絡(luò) 閱讀:823 作者:NewFate1 欄目:編程語言

python一直被病垢運行速度太慢,但是實際上python的執(zhí)行效率并不慢,慢的是python用的解釋器Cpython運行效率太差。

“一行代碼讓python的運行速度提高100倍”這絕不是嘩眾取寵的論調(diào)。

我們來看一下這個最簡單的例子,從1一直累加到1億。

最原始的代碼:

一行代碼讓 Python 的運行速度提高100倍

結(jié)果:
一行代碼讓 Python 的運行速度提高100倍
我們來加一行代碼,再看看結(jié)果:
一行代碼讓 Python 的運行速度提高100倍
結(jié)果:
一行代碼讓 Python 的運行速度提高100倍
是不是快了100多倍呢?

那么下面就分享一下“為啥numba庫的jit模塊那么牛掰?”

NumPy的創(chuàng)始人Travis Oliphant在離開Enthought之后,創(chuàng)建了CONTINUUM,致力于將Python大數(shù)據(jù)處理方面的應(yīng)用。最近推出的Numba項目能夠?qū)⑻幚鞱umPy數(shù)組的Python函數(shù)JIT編譯為機器碼執(zhí)行,從而上百倍的提高程序的運算速度。

Numba項目的主頁上有Linux下的詳細安裝步驟。編譯LLVM需要花一些時間。
Windows用戶可以從Unofficial Windows Binaries for Python Extension Packages下載安裝LLVMPy、meta和numba等幾個擴展庫。

下面我們看一個例子:
一行代碼讓 Python 的運行速度提高100倍
numba中提供了一些修飾器,它們可以將其修飾的函數(shù)JIT編譯成機器碼函數(shù),并返回一個可在Python中調(diào)用機器碼的包裝對象。為了能將Python函數(shù)編譯成能高速執(zhí)行的機器碼,我們需要告訴JIT編譯器函數(shù)的各個參數(shù)和返回值的類型。我們可以通過多種方式指定類型信息,在上面的例子中,類型信息由一個字符串’f8(f8[:])’指定。其中’f8’表示8個字節(jié)雙精度浮點數(shù),括號前面的’f8’表示返回值類型,括號里的表示參數(shù)類型,’[:]’表示一維數(shù)組。因此整個類型字符串表示sum1d()是一個參數(shù)為雙精度浮點數(shù)的一維數(shù)組,返回值是一個雙精度浮點數(shù)。
需要注意的是,JIT所產(chǎn)生的函數(shù)只能對指定的類型的參數(shù)進行運算:
一行代碼讓 Python 的運行速度提高100倍
如果希望JIT能針對所有類型的參數(shù)進行運算,可以使用autojit:
一行代碼讓 Python 的運行速度提高100倍
autoit雖然可以根據(jù)參數(shù)類型動態(tài)地產(chǎn)生機器碼函數(shù),但是由于它需要每次檢查參數(shù)類型,因此計算速度也有所降低。numba的用法很簡單,基本上就是用jit和autojit這兩個修飾器,和一些類型對象。下面的程序列出numba所支持的所有類型:
一行代碼讓 Python 的運行速度提高100倍
工作原理
numba的通過meta模塊解析Python函數(shù)的ast語法樹,對各個變量添加相應(yīng)的類型信息。然后調(diào)用llvmpy生成機器碼,最后再生成機器碼的Python調(diào)用接口。

meta模塊
通過研究numba的工作原理,我們可以找到許多有用的工具。例如meta模塊可在程序源碼、ast語法樹以及Python二進制碼之間進行相互轉(zhuǎn)換。下面看一個例子:
一行代碼讓 Python 的運行速度提高100倍
decompile_func能將函數(shù)的代碼對象反編譯成ast語法樹,而str_ast能直觀地顯示ast語法樹,使用這兩個工具學習Python的ast語法樹是很有幫助的。
一行代碼讓 Python 的運行速度提高100倍
而python_source可以將ast語法樹轉(zhuǎn)換為Python源代碼:
一行代碼讓 Python 的運行速度提高100倍
decompile_pyc將上述二者結(jié)合起來,它能將Python編譯之后的pyc或者pyo文件反編譯成源代碼。下面我們先寫一個tmp.py文件,然后通過py_compile將其編譯成tmp.pyc。
一行代碼讓 Python 的運行速度提高100倍

下面調(diào)用decompile_pyc將tmp.pyc顯示為源代碼:
一行代碼讓 Python 的運行速度提高100倍
llvmpy模塊
LLVM是一個動態(tài)編譯器,llvmpy則可以通過Python調(diào)用LLVM動態(tài)地創(chuàng)建機器碼。直接通過llvmpy創(chuàng)建機器碼是比較繁瑣的,例如下面的程序創(chuàng)建一個計算兩個整數(shù)之和的函數(shù),并調(diào)用它計算結(jié)果。
一行代碼讓 Python 的運行速度提高100倍
f_add就是一個動態(tài)生成的機器碼函數(shù),我們可以把它想象成C語言編譯之后的函數(shù)。在上面的程序中,我們通過ee.run_function調(diào)用此函數(shù),而實際上我們還可以獲得它的地址,然后通過Python的ctypes模塊調(diào)用它。
首先通過ee.get_pointer_to_function獲得f_add函數(shù)的地址:
一行代碼讓 Python 的運行速度提高100倍
然后通過ctypes.PYFUNCTYPE創(chuàng)建一個函數(shù)類型:
一行代碼讓 Python 的運行速度提高100倍
最后通過f_type將函數(shù)的地址轉(zhuǎn)換為可調(diào)用的Python函數(shù),并調(diào)用它:
一行代碼讓 Python 的運行速度提高100倍
numba所完成的工作就是:
解析Python函數(shù)的ast語法樹并加以改造,添加類型信息;
將帶類型信息的ast語法樹通過llvmpy動態(tài)地轉(zhuǎn)換為機器碼函數(shù),然后再通過和ctypes類似的技術(shù)為機器碼函數(shù)創(chuàng)建包裝函數(shù)供Python調(diào)用。

向AI問一下細節(jié)

免責聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI