怎么在ThinkPHP5框架中使用QueryList爬取mysql數(shù)據(jù)

這篇文章將為大家詳細(xì)講解有關(guān)怎么在ThinkPHP5框架中使用QueryList爬取mysql數(shù)據(jù)，文章內(nèi)容質(zhì)量較高，因此小編分享給大家做個(gè)參考，希望大家閱讀完這篇文章后對(duì)相關(guān)知識(shí)有一定的了解。

在ThinkPHP5代碼根目錄執(zhí)行composer命令安裝QueryList:

composer require jaeger/querylist

如果出現(xiàn) 以下錯(cuò)誤

Loading composer repositories with package information
Updating dependencies (including require-dev)
    Authentication required (packagist.phpcomposer.com):
      Username:

出現(xiàn)這樣的 情況

使用

composer config -g repo.packagist composer https://packagist.laravel-china.org

下面演示在Index控制器中使用QueryList:

use QL\QueryList;
public function qulist(){
  $data = QueryList::get('http://maoyan.com/board/4')
  // 設(shè)置采集規(guī)則
  ->rules([
    // 爬取圖片地址
    "src"=>array(".board-wrapper dd img.board-img","data-src"),
    // 爬取電影名
    "name"=>array(".board-wrapper dd .movie-item-info .name","html"),
    // 爬取電影主演信息
    "star"=>array(".board-wrapper dd .movie-item-info .star","html"),
    // 爬取上映時(shí)間
    "releasetime"=>array(".board-wrapper dd .movie-item-info .releasetime","html"),
  ])
  ->query()->getData();
  $excel_array=$data->all();
  var_dump($excel_array);exit;
}

如果沒有錯(cuò)的 則

如果想繼續(xù)抓取下一頁的數(shù)據(jù) 要根據(jù)規(guī)律來去

這里我繼續(xù)抓取20頁 但是沒有那么多就抓取了10頁的數(shù)據(jù)

public function qulist(){
    for($i=0;$i<20;$i++){
      $page=$i*10;
      $data = QueryList::get('http://maoyan.com/board/4?offset='.$page)
        // 設(shè)置采集規(guī)則
        ->rules([
          // 爬取圖片地址
          "src"=>array(".board-wrapper dd img.board-img","data-src"),
          // 爬取電影名
          "name"=>array(".board-wrapper dd .movie-item-info .name","html"),
          // 爬取電影主演信息
          "star"=>array(".board-wrapper dd .movie-item-info .star","html"),
          // 爬取上映時(shí)間
          "releasetime"=>array(".board-wrapper dd .movie-item-info .releasetime","html"),
        ])
        ->query()->getData();
      $excel_array=$data->all();
      var_dump($excel_array);exit;
    }
}

將數(shù)據(jù)插入到數(shù)據(jù)庫 詳細(xì)步驟

關(guān)于怎么在ThinkPHP5框架中使用QueryList爬取mysql數(shù)據(jù)就分享到這里了，希望以上內(nèi)容可以對(duì)大家有一定的幫助，可以學(xué)到更多知識(shí)。如果覺得文章不錯(cuò)，可以把它分享出去讓更多的人看到。