溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

python爬取餓了么的實例

發(fā)布時間:2020-11-17 10:55:40 來源:億速云 閱讀:911 作者:小新 欄目:編程語言

小編給大家分享一下python爬取餓了么的實例,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!

在學數(shù)據(jù)可視化,缺少點數(shù)據(jù)進行實操,就想著從餓了么上面爬點外賣店信息。

主要是獲取數(shù)據(jù),所以代碼比較簡陋,直接上代碼:

import requests
import json
import csv
def crawler_ele(page=0):
def get_page(page):
url = 'https://h6.ele.me/restapi/shopping/v3/restaurants?latitude=xxxx&longitude=xxxx&offset={page}&limit=8&terminal=h6'.format(page=page*8)
headers = {
    "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.80 Safari/537.36",
    'cookie': r'xxxx'
}
re = json.loads(requests.get(url,headers=headers).text)
return re
re = get_page(page)
if re.get('items'):
with open('data.csv','a',newline='') as f:
writer = csv.DictWriter(f,fieldnames=['名稱', '月銷售量','配送費', '起送價', '風味','評分', '配送時長', '評分統(tǒng)計', '距離', '地址'])
writer.writeheader()
for item in re.get('items'):
info = dict()
restaurant = item.get('restaurant')
info['地址'] = restaurant.get('address')
info['配送費'] = restaurant.get('float_delivery_fee')
info['名稱'] = restaurant.get('name')
info['配送時長'] = restaurant.get('order_lead_time')
info['距離'] = restaurant.get('distance')
info['起送價'] = restaurant.get('float_minimum_order_amount')
info['評分'] = restaurant.get('rating')
info['月銷售量'] = restaurant.get('recent_order_num')
info['評分統(tǒng)計'] = restaurant.get('rating_count')
info['風味'] = restaurant.get('flavors')[0].get('name')
writer.writerow(info) 
# print(info)
if re.get('has_next') == True:
crawler_page(page+1)
crawler_ele(0)

在這里簡單注釋幾句:

url 中的經(jīng)緯度去掉了,可以自行查詢添加需要爬取地點的經(jīng)緯度,也可以通過調(diào)用地圖api獲取經(jīng)緯度;

headers 需要加 Cookies ,不然會有登錄權(quán)限限制爬取頁數(shù);

最后調(diào)用的是遞歸不是循環(huán),所以保存結(jié)果的 csv 文件里面會有多個重復表頭,可以用 Excel 打開刪除重復值就可以了。

以上是python爬取餓了么的實例的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對大家有所幫助,如果還想學習更多知識,歡迎關(guān)注億速云行業(yè)資訊頻道!

向AI問一下細節(jié)

免責聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI