php蜘蛛,php蜘蛛池

本文目錄一覽：

• 1、怎麼阻止百度蜘蛛查詢admin php文件
• 2、如何利用php來判斷是百度蜘蛛還是普通用戶，是普通用戶訪問a.htm,百度蜘蛛訪問b.htm 指定某個IP訪問普通頁
• 3、PHP中如何調用JS代碼實現判斷是否是蜘蛛訪問
• 4、PHP判斷來訪是搜索引擎蜘蛛還是普通用戶的代碼小結
• 5、PHP判斷普通用戶或蜘蛛，調用不同代碼
• 6、求一段PHP代碼 ，判斷百度蜘蛛的來路的

怎麼阻止百度蜘蛛查詢admin php文件

在網站根目錄添加robots.txt文件試試

格式為

User-agent: *

Disallow: /admin.php

如何利用php來判斷是百度蜘蛛還是普通用戶，是普通用戶訪問a.htm,百度蜘蛛訪問b.htm 指定某個IP訪問普通頁

使用預定義變量：$_SERVER[“HTTP_REFERER”]來判斷進入該頁面的前一頁。並根據不同的判斷結果執行不同的操作。

PHP中如何調用JS代碼實現判斷是否是蜘蛛訪問

這個理論上是無法做到的，因為蜘蛛可以模仿得和瀏覽器點開完全相同。

一般的辦法是判斷瀏覽器的AGENT標誌，一般蜘蛛這裡比較特殊，你看看日期裡面的AGENT就知道如何識別了。

我的代碼如下，可以參考：

PHP判斷來訪是搜索引擎蜘蛛還是普通用戶的代碼小結

1、推薦的一種方法：php判斷搜索引擎蜘蛛爬蟲還是人為訪問代碼,摘自Discuz x3.2

?php

function checkrobot($useragent=”){

static $kw_spiders = array(‘bot’, ‘crawl’, ‘spider’ ,’slurp’, ‘sohu-search’, ‘lycos’, ‘robozilla’);

static $kw_browsers = array(‘msie’, ‘netscape’, ‘opera’, ‘konqueror’, ‘mozilla’);

$useragent = strtolower(empty($useragent) ? $_SERVER[‘HTTP_USER_AGENT’] : $useragent);

if(strpos($useragent, ‘http://’) === false dstrpos($useragent, $kw_browsers)) return false;

if(dstrpos($useragent, $kw_spiders)) return true;

return false;

}

function dstrpos($string, $arr, $returnvalue = false) {

if(empty($string)) return false;

foreach((array)$arr as $v) {

if(strpos($string, $v) !== false) {

$return = $returnvalue ? $v : true;

return $return;

}

}

return false;

}

if(checkrobot()){

echo ‘機器人爬蟲’;

}else{

echo ‘人’;

}

?

實際應用中可以這樣判斷，直接不是搜索引擎才執行操作

?php

if(!checkrobot()){

//do something

}

?

2、第二種方法：

使用PHP實現蜘蛛訪問日誌統計

$useragent = addslashes(strtolower($_SERVER[‘HTTP_USER_AGENT’]));

if (strpos($useragent, ‘googlebot’)!== false){$bot = ‘Google’;}

elseif (strpos($useragent,’mediapartners-google’) !== false){$bot = ‘Google Adsense’;}

elseif (strpos($useragent,’baiduspider’) !== false){$bot = ‘Baidu’;}

elseif (strpos($useragent,’sogou spider’) !== false){$bot = ‘Sogou’;}

elseif (strpos($useragent,’sogou web’) !== false){$bot = ‘Sogou web’;}

elseif (strpos($useragent,’sosospider’) !== false){$bot = ‘SOSO’;}

elseif (strpos($useragent,’360spider’) !== false){$bot = ‘360Spider’;}

elseif (strpos($useragent,’yahoo’) !== false){$bot = ‘Yahoo’;}

elseif (strpos($useragent,’msn’) !== false){$bot = ‘MSN’;}

elseif (strpos($useragent,’msnbot’) !== false){$bot = ‘msnbot’;}

elseif (strpos($useragent,’sohu’) !== false){$bot = ‘Sohu’;}

elseif (strpos($useragent,’yodaoBot’) !== false){$bot = ‘Yodao’;}

elseif (strpos($useragent,’twiceler’) !== false){$bot = ‘Twiceler’;}

elseif (strpos($useragent,’ia_archiver’) !== false){$bot = ‘Alexa_’;}

elseif (strpos($useragent,’iaarchiver’) !== false){$bot = ‘Alexa’;}

elseif (strpos($useragent,’slurp’) !== false){$bot = ‘雅虎’;}

elseif (strpos($useragent,’bot’) !== false){$bot = ‘其它蜘蛛’;}

if(isset($bot)){

$fp = @fopen(‘bot.txt’,’a’);

fwrite($fp,date(‘Y-m-d H:i:s’).”\t”.$_SERVER[“REMOTE_ADDR”].”\t”.$bot.”\t”.’http://’.$_SERVER[‘SERVER_NAME’].$_SERVER[“REQUEST_URI”].”\r\n”);

fclose($fp);

}

第三種方法：

我們可以通過HTTP_USER_AGENT來判斷是否是蜘蛛，搜索引擎的蜘蛛都有自己的獨特標誌，下面列取了一部分。

function is_crawler() {

$userAgent = strtolower($_SERVER[‘HTTP_USER_AGENT’]);

$spiders = array(

‘Googlebot’, // Google 爬蟲

‘Baiduspider’, // 百度爬蟲

‘Yahoo! Slurp’, // 雅虎爬蟲

‘YodaoBot’, // 有道爬蟲

‘msnbot’ // Bing爬蟲

// 更多爬蟲關鍵字

);

foreach ($spiders as $spider) {

$spider = strtolower($spider);

if (strpos($userAgent, $spider) !== false) {

return true;

}

}

return false;

}

下面的php代碼附帶了更多的蜘蛛標識

function isCrawler() {

echo $agent= strtolower($_SERVER[‘HTTP_USER_AGENT’]);

if (!empty($agent)) {

$spiderSite= array(

“TencentTraveler”,

“Baiduspider+”,

“BaiduGame”,

“Googlebot”,

“msnbot”,

“Sosospider+”,

“Sogou web spider”,

“ia_archiver”,

“Yahoo! Slurp”,

“YoudaoBot”,

“Yahoo Slurp”,

“MSNBot”,

“Java (Often spam bot)”,

“BaiDuSpider”,

“Voila”,

“Yandex bot”,

“BSpider”,

“twiceler”,

“Sogou Spider”,

“Speedy Spider”,

“Google AdSense”,

“Heritrix”,

“Python-urllib”,

“Alexa (IA Archiver)”,

“Ask”,

“Exabot”,

“Custo”,

“OutfoxBot/YodaoBot”,

“yacy”,

“SurveyBot”,

“legs”,

“lwp-trivial”,

“Nutch”,

“StackRambler”,

“The web archive (IA Archiver)”,

“Perl tool”,

“MJ12bot”,

“Netcraft”,

“MSIECrawler”,

“WGet tools”,

“larbin”,

“Fish search”,

);

foreach($spiderSite as $val) {

$str = strtolower($val);

if (strpos($agent, $str) !== false) {

return true;

}

}

} else {

return false;

}

}

if (isCrawler()){

echo “你好蜘蛛精！”;

}

else{

echo “你不是蜘蛛精啊！”;

PHP判斷普通用戶或蜘蛛，調用不同代碼

定義一個函數 get_naps_bot()

如果是 BOT 則返回字符串, 如果不是 BOT 返回 false

function get_naps_bot()

{

$useragent = strtolower($_SERVER[‘HTTP_USER_AGENT’]);

if (strpos($useragent, ‘googlebot’) !== false){

return ‘Googlebot’;

}

if (strpos($useragent, ‘msnbot’) !== false){

return ‘MSNbot’;

}

if (strpos($useragent, ‘slurp’) !== false){

return ‘Yahoobot’;

}

if (strpos($useragent, ‘baiduspider’) !== false){

return ‘Baiduspider’;

}

if (strpos($useragent, ‘sohu-search’) !== false){

return ‘Sohubot’;

}

if (strpos($useragent, ‘lycos’) !== false){

return ‘Lycos’;

}

if (strpos($useragent, ‘robozilla’) !== false){

return ‘Robozilla’;

}

return false;

}

$botName = get_naps_bot();

if( empty($botName ) )

{

include( “11.php” );// 用戶訪問

}

else

{

include( “22.php” ); // 蜘蛛訪問

}

求一段PHP代碼 ，判斷百度蜘蛛的來路的

普通用戶與搜索引擎蜘蛛爬行的區別在於發送的user agent

百度蜘蛛名字包含Baiduspider, 而google的則是Googlebot, 這樣我們可以通過判斷發送的user agent來決定要不要取消普通用戶的訪問，編寫函數如下:

function isAllowAccess($directForbidden = false,$url) { 

$allowed = array(‘/baiduspider/i’, ‘/googlebot/i’); 

$user_agent = $_SERVER[‘HTTP_USER_AGENT’]; 

$valid = false; 

foreach ($allowed as $pattern) { 

if (preg_match($pattern, $user_agent)) { 

$valid = true; 

break; 

} 

} 

if (!$valid  $directForbidden) { 

header(‘location:’.$url);

}  

return $valid; 

}

望採納 Thx