溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

如何解決PHP CURL或file_get_contents獲取網(wǎng)頁(yè)標(biāo)題的代碼及兩者效率的穩(wěn)定性問(wèn)題

發(fā)布時(shí)間:2021-09-29 09:46:00 來(lái)源:億速云 閱讀:141 作者:iii 欄目:開發(fā)技術(shù)

這篇文章主要講解了“如何解決PHP CURL或file_get_contents獲取網(wǎng)頁(yè)標(biāo)題的代碼及兩者效率的穩(wěn)定性問(wèn)題”,文中的講解內(nèi)容簡(jiǎn)單清晰,易于學(xué)習(xí)與理解,下面請(qǐng)大家跟著小編的思路慢慢深入,一起來(lái)研究和學(xué)習(xí)“如何解決PHP CURL或file_get_contents獲取網(wǎng)頁(yè)標(biāo)題的代碼及兩者效率的穩(wěn)定性問(wèn)題”吧!

推薦方法 CURL獲取

<?php
$c = curl_init();
$url = 'www.jb51.net';
curl_setopt($c, CURLOPT_URL, $url);
curl_setopt($c, CURLOPT_RETURNTRANSFER, 1);
$data = curl_exec($c);
curl_close($c);
$pos = strpos($data,'utf-8');
if($pos===false){$data = iconv("gbk","utf-8",$data);}
preg_match("/<title>(.*)<\/title>/i",$data, $title);
echo $title[1];
?>

使用file_get_contents

<?php
$content=file_get_contents("https://www.jb51.net/");
$pos = strpos($content,'utf-8');
if($pos===false){$content = iconv("gbk","utf-8",$content);}
$postb=strpos($content,'<title>')+7;
$poste=strpos($content,'</title>');
$length=$poste-$postb;
echo substr($content,$postb,$length);
?>

看看file_get_contents性能

1)fopen/file_get_contents 每次請(qǐng)求遠(yuǎn)程URL中的數(shù)據(jù)都會(huì)重新做DNS查詢,并不對(duì)DNS信息進(jìn)行緩存。但是CURL會(huì)自動(dòng)對(duì)DNS信息進(jìn)行緩存。對(duì)同一域名下的網(wǎng)頁(yè)或者圖片的請(qǐng)求只需要一次DNS 查詢。這大大減少了DNS查詢的次數(shù)。所以CURL的性能比f(wàn)open/file_get_contents 好很多。
2)fopen/file_get_contents在請(qǐng)求HTTP時(shí),使用的是http_fopen_wrapper,不會(huì)keeplive。而curl卻可以。這樣在多次請(qǐng)求多個(gè)鏈接時(shí),curl效率會(huì)好一些。(設(shè)置header頭應(yīng)該可以)
3)fopen/file_get_contents函數(shù)會(huì)受到php.ini文件中allow_url_open選項(xiàng)配置的影響。如果該配置關(guān)閉了,則該函數(shù)也就失效了。而curl不受該配置的影響。
4)curl可以模擬多種請(qǐng)求,例如:POST數(shù)據(jù),表單提交等,用戶可以按照自己的需求來(lái)定制請(qǐng)求。而fopen/file_get_contents只能使用get方式獲取數(shù)據(jù)。
5)fopen/file_get_contents 不能正確下載二進(jìn)制文件
6)fopen/file_get_contents 不能正確處理ssl請(qǐng)求
7)curl 可以利用多線程
8)使用 file_get_contents 的時(shí)候如果 網(wǎng)絡(luò)出現(xiàn)問(wèn)題, 很容易堆積一些進(jìn)程在這里
9)如果是要打一個(gè)持續(xù)連接,多次請(qǐng)求多個(gè)頁(yè)面。那么file_get_contents就會(huì)出問(wèn)題。取得的內(nèi)容也可能會(huì)不對(duì)。所以做一些類似采集工作的時(shí)候,肯定就有問(wèn)題了。對(duì)做采集抓取的用curl,如果還有同不相信下面我們?cè)僮鰝€(gè)測(cè)試

curl與file_get_contents性能對(duì)比PHP源代碼如下:

1829.php

<?php
/**
* 通過(guò)淘寶IP接口獲取IP地理位置
* @param string $ip
* @return: string
**/
function getCityCurl($ip)
{
 $url="http://ip.taobao.com/service/getIpInfo.php?ip=".$ip;
 $ch = curl_init();
 $timeout = 5;
 curl_setopt ($ch, CURLOPT_URL, $url);
 curl_setopt ($ch, CURLOPT_RETURNTRANSFER, 1);
 curl_setopt ($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
 $file_contents = curl_exec($ch);
 curl_close($ch);
 $ipinfo=json_decode($file_contents);
 if($ipinfo->code=='1'){
  return false;
 }
 $city = $ipinfo->data->region.$ipinfo->data->city;
 return $city;
}
function getCity($ip)
{
 $url="http://ip.taobao.com/service/getIpInfo.php?ip=".$ip;
 $ipinfo=json_decode(file_get_contents($url));
 if($ipinfo->code=='1'){
  return false;
 }
 $city = $ipinfo->data->region.$ipinfo->data->city;
 return $city;
}
// for file_get_contents
$startTime=explode(' ',microtime());
$startTime=$startTime[0] + $startTime[1];
for($i=1;$i<=10;$i++)
{
 echo getCity("121.207.247.202")."</br>";
}
$endTime = explode(' ',microtime());
$endTime = $endTime[0] + $endTime[1];
$totalTime = $endTime - $startTime;
echo 'file_get_contents:'.number_format($totalTime, 10, '.', "")." seconds</br>";
//for curl
$startTime2=explode(' ',microtime());
$startTime2=$startTime2[0] + $startTime2[1];
for($i=1;$i<=10;$i++)
{
 echo getCityCurl('121.207.247.202')."</br>";
}
$endTime2 = explode(' ',microtime());
$endTime2=$endTime2[0] + $endTime2[1];
$totalTime2 = $endTime2 - $startTime2;
echo "curl:".number_format($totalTime2, 10, '.', "")." seconds";
?>

測(cè)試訪問(wèn)

file_get_contents速度:4.2404510975 seconds
curl速度:2.8205530643 seconds
curl比f(wàn)ile_get_contents速度快了30%左右,最重要的是服務(wù)器負(fù)載更低.

ps:php函數(shù)file_get_contents與curl效率及穩(wěn)定性問(wèn)題

習(xí)慣了使用方便快捷的file_get_contents函數(shù)抓取別家網(wǎng)站內(nèi)容,但是總是會(huì)遇到獲取失敗的問(wèn)題,盡管按照手冊(cè)中的例子設(shè)置了超時(shí),可多數(shù)時(shí)候不好使:

$config['context'] = stream_context_create(array('http' => array('method' => "GET",'timeout' => 5))); 
'timeout' => 5//這個(gè)超時(shí)時(shí)間不穩(wěn)定,經(jīng)常不好使。這時(shí)候,看一下服務(wù)器的連接池,會(huì)發(fā)現(xiàn)一堆類似下面的錯(cuò)誤,讓你頭疼萬(wàn)分:

file_get_contents(http://***): failed to open stream… 

不得已,安裝了curl庫(kù),寫了一個(gè)函數(shù)替換:

function curl_get_contents($url) 
{ 
 $ch = curl_init(); 
 curl_setopt($ch, CURLOPT_URL, $url);   //設(shè)置訪問(wèn)的url地址 
 //curl_setopt($ch,CURLOPT_HEADER,1);   //是否顯示頭部信息 
 curl_setopt($ch, CURLOPT_TIMEOUT, 5);   //設(shè)置超時(shí) 
 curl_setopt($ch, CURLOPT_USERAGENT, _USERAGENT_); //用戶訪問(wèn)代理 User-Agent 
 curl_setopt($ch, CURLOPT_REFERER,_REFERER_);  //設(shè)置 referer 
 curl_setopt($ch,CURLOPT_FOLLOWLOCATION,1);  //跟蹤301 
 curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);  //返回結(jié)果 
 $r = curl_exec($ch); 
 curl_close($ch); 
 return $r; 
}

如此,除了真正的網(wǎng)絡(luò)問(wèn)題外,沒(méi)再出現(xiàn)任何問(wèn)題。

這是別人做過(guò)的關(guān)于curl和file_get_contents的測(cè)試:

file_get_contents抓取google.com需用秒數(shù):

2.31319094  
2.30374217  
2.21512604  
3.30553889  
2.30124092 

curl使用的時(shí)間:

0.68719101  
0.64675593  
0.64326  
0.81983113  
0.63956594 

感謝各位的閱讀,以上就是“如何解決PHP CURL或file_get_contents獲取網(wǎng)頁(yè)標(biāo)題的代碼及兩者效率的穩(wěn)定性問(wèn)題”的內(nèi)容了,經(jīng)過(guò)本文的學(xué)習(xí)后,相信大家對(duì)如何解決PHP CURL或file_get_contents獲取網(wǎng)頁(yè)標(biāo)題的代碼及兩者效率的穩(wěn)定性問(wèn)題這一問(wèn)題有了更深刻的體會(huì),具體使用情況還需要大家實(shí)踐驗(yàn)證。這里是億速云,小編將為大家推送更多相關(guān)知識(shí)點(diǎn)的文章,歡迎關(guān)注!

向AI問(wèn)一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI