溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

PHP中利用Curl實現多線程的原理是什么

發(fā)布時間:2021-01-14 16:01:46 來源:億速云 閱讀:237 作者:Leah 欄目:開發(fā)技術

本篇文章為大家展示了PHP中利用Curl實現多線程的原理是什么,內容簡明扼要并且容易理解,絕對能使你眼前一亮,通過這篇文章的詳細介紹希望你能有所收獲。

步驟總結如下:
第一步:調用curl_multi_init
第二步:循環(huán)調用curl_multi_add_handle
這一步需要注意的是,curl_multi_add_handle的第二個參數是由curl_init而來的子handle。
第三步:持續(xù)調用curl_multi_exec
第四步:根據需要循環(huán)調用curl_multi_getcontent獲取結果
第五步:調用curl_multi_remove_handle,并為每個字handle調用curl_close
第六步:調用curl_multi_close
這里有PHP手冊上的例子:

復制代碼 代碼如下:


<?php
// 創(chuàng)建一對cURL資源
$ch2 = curl_init();
$ch3 = curl_init();

// 設置URL和相應的選項
curl_setopt($ch2, CURLOPT_URL, "https://www.jb51.net/");
curl_setopt($ch2, CURLOPT_HEADER, 0);
curl_setopt($ch3, CURLOPT_URL, "http://www.php.net/");
curl_setopt($ch3, CURLOPT_HEADER, 0);

// 創(chuàng)建批處理cURL句柄
$mh = curl_multi_init();

// 增加2個句柄
curl_multi_add_handle($mh,$ch2);
curl_multi_add_handle($mh,$ch3);

$active = null;
// 執(zhí)行批處理句柄
do {
    $mrc = curl_multi_exec($mh, $active);
} while ($mrc == CURLM_CALL_MULTI_PERFORM);

while ($active && $mrc == CURLM_OK) {
    if (curl_multi_select($mh) != -1) {
        do {
            $mrc = curl_multi_exec($mh, $active);
        } while ($mrc == CURLM_CALL_MULTI_PERFORM);
    }
}

// 關閉全部句柄
curl_multi_remove_handle($mh, $ch2);
curl_multi_remove_handle($mh, $ch3);
curl_multi_close($mh);
?>


整個使用過程差不多就是這樣,但是,這個簡單代碼有個致命弱點,就是在do循環(huán)的那段,在整個url請求期間是個死循環(huán),它會輕易導致CPU占用100%。
現在我們來改進它,這里要用到一個幾乎沒有任何文檔的函數curl_multi_select了,雖然C的curl庫對select有說明,但是,php里的接口和用法確與C中有不同。
把上面do的那段改成下面這樣:
 

復制代碼 代碼如下:


do {
                        $mrc = curl_multi_exec($mh,$active);
                 } while ($mrc == CURLM_CALL_MULTI_PERFORM);
                while ($active and $mrc == CURLM_OK) {
                        if (curl_multi_select($mh) != -1) {
                                do {
                                        $mrc = curl_multi_exec($mh, $active);
                                 } while ($mrc == CURLM_CALL_MULTI_PERFORM);
                         }
                 }


因為$active要等全部url數據接受完畢才變成false,所以這里用到了curl_multi_exec的返回值判斷是否還有數據,當有數據的時候就不停調用curl_multi_exec,暫時沒有數據就進入select階段,新數據一來就可以被喚醒繼續(xù)執(zhí)行。這里的好處就是CPU的無謂消耗沒有了。
另外:還有一些細節(jié)的地方可能有時候要遇到:
控制每一個請求的超時時間,在curl_multi_add_handle之前通過curl_setopt去做:
curl_setopt($ch, CURLOPT_TIMEOUT, $timeout);
判斷是否超時了或者其他錯誤,在curl_multi_getcontent之前用:curl_error($conn[$i]);

本類的特點:
運行非常穩(wěn)定。
設置一個并發(fā)就會始終以這個并發(fā)數進行工作,即使通過回調函數添加任務也不影響。
CPU占用極低,絕大部分CPU消耗在用戶的回調函數上。
內存利用率高,任務數量較多(15W個任務占用內存會超過256M)可以使用回調函數添加任務,個數自定。
能夠最大限度的占用帶寬。
鏈式任務,比如一個任務需要從多個不同的地址采集數據,可以通過回調一氣呵成。
能夠對CURL錯誤進行多次嘗試,次數自定(大并發(fā)一開始容易產生CURL錯誤,網絡狀況或對方服務器穩(wěn)定性也有可能產生CURL錯誤)。
回調函數相當靈活,可以多種類型任務同時進行(比如下載文件,抓取網頁,分析404可以在一個PHP進程中同時進行)。
可以非常容易的定制任務類型,比如檢查404,獲取redirect的最后url等。
可以設置緩存,挑戰(zhàn)產品節(jié)操。
不足:
不能充分利用多核CPU(可以開多個進程解決,需要自己處理任務分割等邏輯)。
最大并發(fā)500(或512?),經過測試是CURL 內部限制,超過最大并發(fā)會導致總是返回失敗。
目前沒有斷點續(xù)傳功能。
目前任務是原子性的,不能對一個大文件分為幾部分分別開線程下載。

上述內容就是PHP中利用Curl實現多線程的原理是什么,你們學到知識或技能了嗎?如果還想學到更多技能或者豐富自己的知識儲備,歡迎關注億速云行業(yè)資訊頻道。

向AI問一下細節(jié)

免責聲明:本站發(fā)布的內容(圖片、視頻和文字)以原創(chuàng)、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI