php下curl與file,phpcurl

本文目錄一覽：

• 1、php中curl爬蟲 怎麼樣通過網頁獲取所有鏈接
• 2、php獲取數據為什麼curl獲取不完整？而用file_get_contents能獲取完整？
• 3、php如何獲取通過CURL或file_get_contents抓取者的IP地址
• 4、php curl 為什麼比file

php中curl爬蟲 怎麼樣通過網頁獲取所有鏈接

本文承接上面兩篇，本篇中的示例要調用到前兩篇中的函數，做一個簡單的URL採集。一般php採集網路數據會用file_get_contents、file和cURL。不過據說cURL會比file_get_contents、file更快更專業，更適合採集。今天就試試用cURL來獲取網頁上的所有鏈接。示例如下：

?php

/*

* 使用curl 採集hao123.com下的所有鏈接。

*/

include_once(‘function.php’);

$ch = curl_init();

curl_setopt($ch, CURLOPT_URL, ”);

// 只需返回HTTP header

curl_setopt($ch, CURLOPT_HEADER, 1);

// 頁面內容我們並不需要

// curl_setopt($ch, CURLOPT_NOBODY, 1);

// 返回結果，而不是輸出它

curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);

$html = curl_exec($ch);

$info = curl_getinfo($ch);

if ($html === false) {

echo “cURL Error: ” . curl_error($ch);

}

curl_close($ch);

$linkarr = _striplinks($html);

// 主機部分，補全用

$host = ”;

if (is_array($linkarr)) {

foreach ($linkarr as $k = $v) {

$linkresult[$k] = _expandlinks($v, $host);

}

}

printf(“p此頁面的所有鏈接為：/ppre%s/pren”, var_export($linkresult , true));

?

function.php內容如下（即為上兩篇中兩個函數的合集）：

?php

function _striplinks($document) {

preg_match_all(“‘s*as.*?hrefs*=s*([“‘])?(?(1) (.*?)\1 | ([^s]+))’isx”, $document, $links);

// catenate the non-empty matches from the conditional subpattern

while (list($key, $val) = each($links[2])) {

if (!empty($val))

$match[] = $val;

} while (list($key, $val) = each($links[3])) {

if (!empty($val))

$match[] = $val;

}

// return the links

return $match;

}

/*===================================================================*

Function: _expandlinks

Purpose: expand each link into a fully qualified URL

Input: $links the links to qualify

$URI the full URI to get the base from

Output: $expandedLinks the expanded links

*===================================================================*/

function _expandlinks($links,$URI)

{

$URI_PARTS = parse_url($URI);

$host = $URI_PARTS[“host”];

preg_match(“/^[^?]+/”,$URI,$match);

$match = preg_replace(“|/[^/.]+.[^/.]+$|”,””,$match[0]);

$match = preg_replace(“|/$|”,””,$match);

$match_part = parse_url($match);

$match_root =

$match_part[“scheme”].”://”.$match_part[“host”];

$search = array( “|^http://”.preg_quote($host).”|i”,

“|^(/)|i”,

“|^(?!http://)(?!mailto:)|i”,

“|/./|”,

“|/[^/]+/../|”

);

$replace = array( “”,

$match_root.”/”,

$match.”/”,

“/”,

“/”

);

$expandedLinks = preg_replace($search,$replace,$links);

return $expandedLinks;

}

?

php獲取數據為什麼curl獲取不完整？而用file_get_contents能獲取完整？

因為，PHP CURL庫默認1024位元組的長度不等待數據的返回，所以你那段代碼需增加一項配置：

curl_setopt($ch, CURLOPT_HTTPHEADER, array(‘Expect:’));

給你一個更全面的封裝方法：

function req_curl($url, $status = null, $options = array())

{

    $res = ”;

    $options = array_merge(array(

        ‘follow_local’ = true,

        ‘timeout’ = 30,

        ‘max_redirects’ = 4,

        ‘binary_transfer’ = false,

        ‘include_header’ = false,

        ‘no_body’ = false,

        ‘cookie_location’ = dirname(__FILE__) . ‘/cookie’,

        ‘useragent’ = ‘Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1’,

        ‘post’ = array() ,

        ‘referer’ = null,

        ‘ssl_verifypeer’ = 0,

        ‘ssl_verifyhost’ = 0,

        ‘headers’ = array(

            ‘Expect:’

        ) ,

        ‘auth_name’ = ”,

        ‘auth_pass’ = ”,

        ‘session’ = false

    ) , $options);

    $options[‘url’] = $url;

    $s = curl_init();

    if (!$s) return false;

    curl_setopt($s, CURLOPT_URL, $options[‘url’]);

    curl_setopt($s, CURLOPT_HTTPHEADER, $options[‘headers’]);

    curl_setopt($s, CURLOPT_SSL_VERIFYPEER, $options[‘ssl_verifypeer’]);

    curl_setopt($s, CURLOPT_SSL_VERIFYHOST, $options[‘ssl_verifyhost’]);

    curl_setopt($s, CURLOPT_TIMEOUT, $options[‘timeout’]);

    curl_setopt($s, CURLOPT_MAXREDIRS, $options[‘max_redirects’]);

    curl_setopt($s, CURLOPT_RETURNTRANSFER, true);

    curl_setopt($s, CURLOPT_FOLLOWLOCATION, $options[‘follow_local’]);

    curl_setopt($s, CURLOPT_COOKIEJAR, $options[‘cookie_location’]);

    curl_setopt($s, CURLOPT_COOKIEFILE, $options[‘cookie_location’]);

    if (!empty($options[‘auth_name’])  is_string($options[‘auth_name’]))

    {

        curl_setopt($s, CURLOPT_USERPWD, $options[‘auth_name’] . ‘:’ . $options[‘auth_pass’]);

    }

    if (!empty($options[‘post’]))

    {

        curl_setopt($s, CURLOPT_POST, true);

        curl_setopt($s, CURLOPT_POSTFIELDS, $options[‘post’]);

        //curl_setopt($s, CURLOPT_POSTFIELDS, array(‘username’ = ‘aeon’, ‘password’ = ‘111111’));

    }

    if ($options[‘include_header’])

    {

        curl_setopt($s, CURLOPT_HEADER, true);

    }

    if ($options[‘no_body’])

    {

        curl_setopt($s, CURLOPT_NOBODY, true);

    }

    if ($options[‘session’])

    {

        curl_setopt($s, CURLOPT_COOKIESESSION, true);

        curl_setopt($s, CURLOPT_COOKIE, $options[‘session’]);

    }

    curl_setopt($s, CURLOPT_USERAGENT, $options[‘useragent’]);

    curl_setopt($s, CURLOPT_REFERER, $options[‘referer’]);

    $res = curl_exec($s);

    $status = curl_getinfo($s, CURLINFO_HTTP_CODE);

    curl_close($s);

    return $res;

}

php如何獲取通過CURL或file_get_contents抓取者的IP地址

百度搜一下防止採集方面的知識，CURL或file_get_contents可以模擬用戶行為，獲取ip跟普通用戶ip其實是一樣的，關鍵是怎麼去區別他們，這就需要在客戶端做手腳，一般都用js來在客戶端做手腳來區別。

php curl 為什麼比file

curl為什麼比file_get_contents慢？

還是啥問題？

呃，問太多，我也不懂，反正用就是了，聽從大神的測試結果，或者自己不服了，也去跑個測試，實在還想問，那就讀源代碼~