您好,登錄后才能下訂單哦!
今天小編給大家分享一下Python如何實現(xiàn)兩種稀疏矩陣的最小二乘法的相關(guān)知識點,內(nèi)容詳細(xì),邏輯清晰,相信大部分人都還太了解這方面的知識,所以分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后有所收獲,下面我們一起來了解一下吧。
scipy.sparse.linalg實現(xiàn)了兩種稀疏矩陣最小二乘法lsqr和lsmr,前者是經(jīng)典算法,后者來自斯坦福優(yōu)化實驗室,據(jù)稱可以比lsqr更快收斂。
這兩個函數(shù)可以求解Ax=b,或arg minx ∥Ax−b∥2,或arg minx ∥Ax−b∥2 +d2∥x−x0∥2,其中A必須是方陣或三角陣,可以有任意秩。
通過設(shè)置容忍度at ,bt,可以控制算法精度,記r=b-Ax 為殘差向量,如果Ax=b是相容的,lsqr在∥r∥?at∗∥A∥⋅∥x∥+bt∥b∥時終止;否則將在∥ATr∥?at∥A∥⋅∥r∥。
如果兩個容忍度都是10−6 ,最終的∥r∥將有6位精度。
lsmr
的參數(shù)如下
lsmr(A, b, damp=0.0, atol=1e-06, btol=1e-06, conlim=100000000.0, maxiter=None, show=False, x0=None)
參數(shù)解釋:
A 可謂稀疏矩陣、數(shù)組以及線性算子
b 為數(shù)組
damp 阻尼系數(shù),默認(rèn)為0
atol, btol 截止容忍度,是lsqr迭代的停止條件,即at ,bt 。
conlim 另一個截止條件,對于最小二乘問題,conlim應(yīng)該小于108,如果Ax=b是相容的,則conlim最大可以設(shè)到1012
iter_limint 迭代次數(shù)
show 如果為True,則打印運(yùn)算過程
calc_var 是否估計(A.T@A + damp**2*I)^{-1}的對角線
x0 阻尼系數(shù)相關(guān)
lsqr和lsmr相比,沒有maxiter參數(shù),但多了iter_lim, calc_va參數(shù)。
上述參數(shù)中,damp為阻尼系數(shù),當(dāng)其不為0時,記作δ,待解決的最小二乘問題變?yōu)?/p>
lsmr的返回值依次為:
x 即Ax=b中的x
istop 程序結(jié)束運(yùn)行的原因
itn 迭代次數(shù)
normr ∥b−Ax∥
normar ∥AT (b−Ax)∥
norma ∥A∥
conda A的條件數(shù)
normx ∥x∥
lsqr的返回值為
x 即Ax=b中的x
istop 程序結(jié)束運(yùn)行的原因
itn 迭代次數(shù)
r1norm
anorm 估計的Frobenius范數(shù)Aˉ
acond Aˉ的條件數(shù)
arnorm ∥ATr−δ2(x−x0)∥
xnorm ∥x∥
var (ATA)−1
二者的返回值較多,而且除了前四個之外,剩下的意義不同,調(diào)用時且須注意。
下面對這兩種算法進(jìn)行驗證,第一步就得先有一個稀疏矩陣
import numpy as np from scipy.sparse import csr_array np.random.seed(42) # 設(shè)置隨機(jī)數(shù)狀態(tài) mat = np.random.rand(500,500) mat[mat<0.9] = 0 csr = csr_array(mat)
然后用這個稀疏矩陣乘以一個x,得到b
xs = np.arange(500) b = mat @ xs
接下來對這兩個最小二乘函數(shù)進(jìn)行測試
from scipy.sparse.linalg import lsmr, lsqr import matplotlib.pyplot as plt mx = lsmr(csr, b)[0] qx = lsqr(csr, b)[0] plt.plot(xs, lw=0.5) plt.plot(mx, lw=0, marker='*', label="lsmr") plt.plot(qx, lw=0, marker='.', label="lsqr") plt.legend() plt.show()
為了對比清晰,對圖像進(jìn)行放大,可以說二者不分勝負(fù)
接下來比較二者的效率,500 × 500 500\times500500×500這個尺寸顯然已經(jīng)不合適了,用2000×2000
from timeit import timeit np.random.seed(42) # 設(shè)置隨機(jī)數(shù)狀態(tài) mat = np.random.rand(500,500) mat[mat<0.9] = 0 csr = csr_array(mat) timeit(lambda : lsmr(csr, b), number=10) timeit(lambda : lsqr(csr, b), number=10)
測試結(jié)果如下
>>> timeit(lambda : lsqr(csr, b), number=10)
0.5240591000001587
>>> timeit(lambda : lsmr(csr, b), number=10)
0.6156221000019286
看來lsmr并沒有更快,看來斯坦福也不靠譜(滑稽)。
以上就是“Python如何實現(xiàn)兩種稀疏矩陣的最小二乘法”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家閱讀完這篇文章都有很大的收獲,小編每天都會為大家更新不同的知識,如果還想學(xué)習(xí)更多的知識,請關(guān)注億速云行業(yè)資訊頻道。
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。