python爬下來(lái)的數(shù)據(jù)如何保存

小編給大家分享一下python爬下來(lái)的數(shù)據(jù)如何保存，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！

python數(shù)據(jù)爬下來(lái)保存在本地，一般是文件或數(shù)據(jù)庫(kù)中，但是文件形式相比要更加簡(jiǎn)單，如果只是自己寫(xiě)爬蟲(chóng)玩，可以用文件形式來(lái)保存數(shù)據(jù)。

#coding=utf-8
import urllib.request
import re
import os
 
'''
Urllib 模塊提供了讀取web頁(yè)面數(shù)據(jù)的接口，我們可以像讀取本地文件一樣讀取www和ftp上的數(shù)據(jù)
urlopen 方法用來(lái)打開(kāi)一個(gè)url
read方法 用于讀取Url上的數(shù)據(jù)
'''
 
def getHtml(url):
    page = urllib.request.urlopen(url);
    html = page.read();
    return html;
 
def getImg(html):
    imglist = re.findall('img src="(http.*?)"',html)
    return imglist
 
html = getHtml("https://www.zhihu.com/question/34378366").decode("utf-8");
imagesUrl = getImg(html);
 
if os.path.exists("D:/imags") == False:
    os.mkdir("D:/imags");
    
count = 0;
for url in imagesUrl:
    print(url)
    if(url.find('.') != -1):
        name = url[url.find('.',len(url) - 5):];
        bytes = urllib.request.urlopen(url);
        f = open("D:/imags/"+str(count)+name, 'wb');
        f.write(bytes.read());
        f.flush();
        f.close();
        count+=1;

經(jīng)測(cè)試，基本功能還是可以實(shí)現(xiàn)的?；ǖ妮^多的時(shí)間就是正則匹配哪里，因?yàn)樽约簩?duì)正則表達(dá)式也不是非常熟悉。所以還是花了點(diǎn)時(shí)間。

注：上面的程序基于 python 3.5。python3 和 python2 還是有些區(qū)別的。我剛開(kāi)始看基礎(chǔ)語(yǔ)法的時(shí)候就栽了一些坑里。

以上是python爬下來(lái)的數(shù)據(jù)如何保存的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對(duì)大家有所幫助，如果還想學(xué)習(xí)更多知識(shí)，歡迎關(guān)注億速云行業(yè)資訊頻道！