有哪些難懂的Python庫

這篇文章主要講解了“有哪些難懂的Python庫”，文中的講解內(nèi)容簡單清晰，易于學(xué)習(xí)與理解，下面請(qǐng)大家跟著小編的思路慢慢深入，一起來研究和學(xué)習(xí)“有哪些難懂的Python庫”吧！

1. Scrapy

每位數(shù)據(jù)科學(xué)家的項(xiàng)目都是從處理數(shù)據(jù)開始的，而互聯(lián)網(wǎng)就是最大、最豐富、最易訪問的數(shù)據(jù)庫。但可惜的是，除了通過pd.read_html函數(shù)來獲取數(shù)據(jù)時(shí)，一旦涉及從那些數(shù)據(jù)結(jié)構(gòu)復(fù)雜的網(wǎng)站上抓取數(shù)據(jù)，數(shù)據(jù)科學(xué)家們大多都會(huì)毫無頭緒。

Web爬蟲常用于分析網(wǎng)站結(jié)構(gòu)和存儲(chǔ)提取信息，但相較于重新構(gòu)建網(wǎng)頁爬蟲，Scrapy使這個(gè)過程變得更加容易。

Scrapy用戶界面非常簡潔使用感極佳，但其最大優(yōu)勢(shì)還得是效率高。Scrapy可以異步發(fā)送、調(diào)度和處理網(wǎng)站請(qǐng)求，也就是說：它在花時(shí)間處理和完成一個(gè)請(qǐng)求的同時(shí)，也可以發(fā)送另一個(gè)請(qǐng)求。Scrapy通過同時(shí)向一個(gè)網(wǎng)站發(fā)送多個(gè)請(qǐng)求的方法，使用非常快的爬行，以最高效的方式迭代網(wǎng)站內(nèi)容。

除上述優(yōu)點(diǎn)外，Scrapy還能讓數(shù)據(jù)科學(xué)家用不同的格式(如：JSON，CSV或XML)和不同的后端(如：FTP，S3或local)導(dǎo)出存檔數(shù)據(jù)。

圖源：unsplash

2. Statsmodels

到底該采用何種統(tǒng)計(jì)建模方法?每位數(shù)據(jù)科學(xué)家都曾對(duì)此猶豫不決，但Statsmodels是其中必須得了解的一個(gè)選項(xiàng)，它能實(shí)現(xiàn)Sci-kit  Learn等標(biāo)準(zhǔn)機(jī)器學(xué)習(xí)庫中沒有的重要算法(如：ANOVA和ARIMA)，而它最有價(jià)值之處在于其細(xì)節(jié)化處理和信息化應(yīng)用。

例如，當(dāng)數(shù)據(jù)科學(xué)家要用Statsmodels算一個(gè)普通最小二乘法時(shí)，他所需要的一切信息，不論是有用的度量標(biāo)準(zhǔn)，還是關(guān)于系數(shù)的詳細(xì)信息，Statsmodels都能提供。庫中實(shí)現(xiàn)的其他所有模型也是如此，這些是在Sci-kit  learn中無法得到的。

OLSRegressionResults ============================================================================== Dep. Variable: Lottery R-squared: 0.348 Model: OLS Adj. R-squared: 0.333 Method: LeastSquares F-statistic: 22.20 Date: Fri, 21Feb2020 Prob (F-statistic): 1.90e-08 Time: 13:59:15 Log-Likelihood: -379.82 No. Observations: 86 AIC: 765.6 DfResiduals: 83 BIC: 773.0 DfModel: 2 CovarianceType: nonrobust =================================================================================== coef std err t P>|t| [0.025 0.975] ----------------------------------------------------------------------------------- Intercept 246.4341 35.233 6.995 0.000 176.358 316.510 Literacy -0.4889 0.128 -3.832 0.000 -0.743 -0.235 np.log(Pop1831) -31.3114 5.977 -5.239 0.000 -43.199 -19.424 ============================================================================== Omnibus: 3.713 Durbin-Watson: 2.019 Prob(Omnibus): 0.156 Jarque-Bera (JB): 3.394 Skew: -0.487 Prob(JB): 0.183 Kurtosis: 3.003 Cond. No. 702. ==============================================================================

對(duì)于數(shù)據(jù)科學(xué)家來說，掌握這些信息意義重大，但他們的問題是常常太過信任一個(gè)自己并不真正理解的模型。因?yàn)楦呔S數(shù)據(jù)不夠直觀，所以在部署這些數(shù)據(jù)之前，數(shù)據(jù)科學(xué)家有必要深入了解數(shù)據(jù)與模型。如果盲目追求像準(zhǔn)確度或均方誤差之類的性能指標(biāo)，可能會(huì)造成嚴(yán)重的負(fù)面影響。

Statsmodels不僅具有極其詳細(xì)的統(tǒng)計(jì)建模，而且還能提供各種有用的數(shù)據(jù)特性和度量。例如，數(shù)據(jù)科學(xué)家們常會(huì)進(jìn)行時(shí)序分解，它可以幫助他們更好地理解數(shù)據(jù)，以及分析何種轉(zhuǎn)換和算法更為合適，或者也可以將pinguoin用于一個(gè)不太復(fù)雜但非常精確的統(tǒng)計(jì)函數(shù)。

圖源：Statsmodels

3. Pattern

一些成熟完善的網(wǎng)站用來檢索數(shù)據(jù)的方法可能更為具體，在這種情況下用Scrapy編寫Web爬蟲就有點(diǎn)“大材小用”了，而Pattern就是Python中更高級(jí)的Web數(shù)據(jù)挖掘和自然語言處理模塊。

Pattern不僅能無縫整合谷歌、推特和維基百科三者的數(shù)據(jù)，而且還能提供一個(gè)不太個(gè)性化的Web爬蟲和HTML  DOM解析器。它采用了詞性標(biāo)注、n-grams搜索、情感分析和WordNet。不論是聚類分析，還是分類處理，又或是網(wǎng)絡(luò)分析可視化，經(jīng)Pattern預(yù)處理后的文本數(shù)據(jù)都可用于各種機(jī)器學(xué)習(xí)算法。

從數(shù)據(jù)檢索到預(yù)處理，再到建模和可視化，Pattern可以處理數(shù)據(jù)科學(xué)流程中的一切問題，而且它也能在不同的庫中快速傳輸數(shù)據(jù)。

圖源：unsplash

4. Mlxtend

Mlxtend是一個(gè)任何數(shù)據(jù)科學(xué)項(xiàng)目都可以應(yīng)用的庫。它可以說是Sci-kit learn庫的擴(kuò)展，能自動(dòng)優(yōu)化常見的數(shù)據(jù)科學(xué)任務(wù)：

• 全自動(dòng)提取與選擇特征。

• 擴(kuò)展Sci-kit learn庫現(xiàn)有的數(shù)據(jù)轉(zhuǎn)換器，如中心化處理和事務(wù)編碼器。

• 大量的評(píng)估指標(biāo)：包括偏差方差分解(即測(cè)量模型中的偏差和方差)、特征點(diǎn)檢測(cè)、McNemar測(cè)試、F測(cè)試等。

• 模型可視化，包括特征邊界、學(xué)習(xí)曲線、PCA交互圈和富集圖繪。

• 含有許多Sci-kit Learn庫中沒有的內(nèi)置數(shù)據(jù)集。

• 圖像與文本預(yù)處理功能，如名稱泛化器，可以識(shí)別并轉(zhuǎn)換具有不同命名系統(tǒng)的文本(如：它能識(shí)別“Deer，John”，“J.Deer”，“J.D.”和“John  Deer”是相同的)。

Mlxtend還有非常實(shí)用的圖像處理功能，比如它可以提取面部標(biāo)志：

圖源：Mlxtend

再來看看它的決策邊界繪制功能：

圖源：Mlxtend

5. REP

與Mlxtend一樣，REP也可以被看作是Sci-kit學(xué)習(xí)庫的擴(kuò)展，但更多的是在機(jī)器學(xué)習(xí)領(lǐng)域。首先，它是一個(gè)統(tǒng)一的Python包裝器，用于從Sci-kit-learn擴(kuò)展而來的不同機(jī)器學(xué)習(xí)庫。它可以將Sci-kit  learn與XGBoost、Pybrain、Neurolab等更專業(yè)的機(jī)器學(xué)習(xí)庫整合在一起。

例如，當(dāng)數(shù)據(jù)科學(xué)家想要通過一個(gè)簡單的包裝器將XGBoost分類器轉(zhuǎn)換為Bagging分類器，再將其轉(zhuǎn)換為Sci-kit-learn模型時(shí)，只有REP能做到，因?yàn)樵谄渌麕熘袩o法找到像這種易于包裝和轉(zhuǎn)換的算法。

from sklearn.ensemble importBaggingClassifier from rep.estimators importXGBoostClassifier, SklearnClassifier clf =BaggingClassifier(base_estimator=XGBoostClassifier(), n_estimators=10) clf =SklearnClassifier(clf)

除此之外，REP還能實(shí)現(xiàn)將模型從任何庫轉(zhuǎn)換為交叉驗(yàn)證(折疊)和堆疊模型。它有一個(gè)極快的網(wǎng)格搜索功能和模型工廠，可以幫助數(shù)據(jù)科學(xué)家在同一個(gè)數(shù)據(jù)集里有效地使用多個(gè)機(jī)器學(xué)習(xí)分類器。同時(shí)使用REP和Sci-kit  learn，能幫助我們更輕松自如地構(gòu)建模型。

感謝各位的閱讀，以上就是“有哪些難懂的Python庫”的內(nèi)容了，經(jīng)過本文的學(xué)習(xí)后，相信大家對(duì)有哪些難懂的Python庫這一問題有了更深刻的體會(huì)，具體使用情況還需要大家實(shí)踐驗(yàn)證。這里是億速云，小編將為大家推送更多相關(guān)知識(shí)點(diǎn)的文章，歡迎關(guān)注！