PHP代码实现爬虫记录——超管用
(编辑:jimmy 日期: 2025/10/28 浏览:3 次 )
实现爬虫记录本文从创建crawler 数据库,robot.php记录来访的爬虫从而将信息插入数据库crawler,然后从数据库中就可以获得所有的爬虫信息。实现代码具体如下:
数据库设计
create table crawler ( crawler_ID bigint() unsigned not null auto_increment primary key, crawler_category varchar() not null, crawler_date datetime not null default '-- ::', crawler_url varchar() not null, crawler_IP varchar() not null )default charset=utf;
以下文件 robot.php 记录来访的爬虫,并将信息写入数据库:
<"SERVER_NAME"] ;
$ServerPort = $_SERVER["SERVER_PORT"] ;
$ScriptName = $_SERVER["SCRIPT_NAME"] ;
$QueryString = $_SERVER["QUERY_STRING"];
$serverip = $_SERVER["REMOTE_ADDR"] ;
$Url="http://".$ServerName;
if ($ServerPort != "")
{
$Url = $Url.":".$ServerPort ;
}
$Url=$Url.$ScriptName;
if ($QueryString !="")
{
$Url=$Url."".$QueryString;
}
$GetLocationURL=$Url ;
$agent = $_SERVER["HTTP_USER_AGENT"];
$agent=strtolower($agent);
$Bot ="";
if (strpos($agent,"bot")>-)
{
$Bot = "Other Crawler";
}
if (strpos($agent,"googlebot")>-)
{
$Bot = "Google";
}
if (strpos($agent,"mediapartners-google")>-)
{
$Bot = "Google Adsense";
}
if (strpos($agent,"baiduspider")>-)
{
$Bot = "Baidu";
}
if (strpos($agent,"sogou spider")>-)
{
$Bot = "Sogou";
}
if (strpos($agent,"yahoo")>-)
{
$Bot = "Yahoo!";
}
if (strpos($agent,"msn")>-)
{
$Bot = "MSN";
}
if (strpos($agent,"ia_archiver")>-)
{
$Bot = "Alexa";
}
if (strpos($agent,"iaarchiver")>-)
{
$Bot = "Alexa";
}
if (strpos($agent,"sohu")>-)
{
$Bot = "Sohu";
}
if (strpos($agent,"sqworm")>-)
{
$Bot = "AOL";
}
if (strpos($agent,"yodaoBot")>-)
{
$Bot = "Yodao";
}
if (strpos($agent,"iaskspider")>-)
{
$Bot = "Iask";
}
require("./dbinfo.php");
date_default_timezone_set('PRC');
$shijian=date("Y-m-d h:i:s", time());
// 连接到 MySQL 服务器
$connection = mysql_connect ($host, $username, $password);
if (!$connection)
{
die('Not connected : ' . mysql_error());
}
// 设置活动的 MySQL 数据库
$db_selected = mysql_select_db($database, $connection);
if (!$db_selected)
{
die ('Can\'t use db : ' . mysql_error());
}
// 向数据库插入数据
$query = "insert into crawler (crawler_category, crawler_date, crawler_url, crawler_IP) values ('$Bot','$shijian','$GetLocationURL','$serverip')";
$result = mysql_query($query);
if (!$result)
{
die('Invalid query: ' . mysql_error());
}
"htmlcode">
view sourceprint"select * from crawler"));
$pages = new PageClass($count,,$_GET['page'],$_SERVER['PHP_SELF'].'"select * from crawler order by ";
$sql .= "crawler_date desc limit ".$pages -> page_limit.",".$pages -> myde_size;
$result = $mysql -> query($sql);
"">
<thead>
<tr>
<td bgcolor="#CCFFFF"></td>
<td bgcolor="#CCFFFF" align="center" style="color:#">爬虫访问时间</td>
<td bgcolor="#CCFFFF" align="center" style="color:#">爬虫分类</td>
<td bgcolor="#CCFFFF" align="center" style="color:#">爬虫IP</td>
<td bgcolor="#CCFFFF" align="center" style="color:#">爬虫访问的URL</td>
</tr>
</thead>
<""><img src="/UploadFiles/2021-04-02/topicnew.gif">
以上代码就是PHP代码实现爬虫记录——超管用的全部内容,希望对大家有所帮助。
下一篇:PHP 前加at符合@的作用解析
荣耀猎人回归!七大亮点看懂不只是轻薄本,更是游戏本的MagicBook Pro 16.
人们对于笔记本电脑有一个固有印象:要么轻薄但性能一般,要么性能强劲但笨重臃肿。然而,今年荣耀新推出的MagicBook Pro 16刷新了人们的认知——发布会上,荣耀宣布猎人游戏本正式回归,称其继承了荣耀 HUNTER 基因,并自信地为其打出“轻薄本,更是游戏本”的口号。
众所周知,寻求轻薄本的用户普遍更看重便携性、外观造型、静谧性和打字办公等用机体验,而寻求游戏本的用户则普遍更看重硬件配置、性能释放等硬核指标。把两个看似难以相干的产品融合到一起,我们不禁对它产生了强烈的好奇:作为代表荣耀猎人游戏本的跨界新物种,它究竟做了哪些平衡以兼顾不同人群的各类需求呢?
人们对于笔记本电脑有一个固有印象:要么轻薄但性能一般,要么性能强劲但笨重臃肿。然而,今年荣耀新推出的MagicBook Pro 16刷新了人们的认知——发布会上,荣耀宣布猎人游戏本正式回归,称其继承了荣耀 HUNTER 基因,并自信地为其打出“轻薄本,更是游戏本”的口号。
众所周知,寻求轻薄本的用户普遍更看重便携性、外观造型、静谧性和打字办公等用机体验,而寻求游戏本的用户则普遍更看重硬件配置、性能释放等硬核指标。把两个看似难以相干的产品融合到一起,我们不禁对它产生了强烈的好奇:作为代表荣耀猎人游戏本的跨界新物种,它究竟做了哪些平衡以兼顾不同人群的各类需求呢?