很多站长都发有发现一个问题:百度spider光顾过于频繁,已超越服务器承受能力。而51统计网经过和广大站长研究以及实验发现,Baiduspider对站点的抓取并无异常,而那些spider极有可能是假的蜘蛛,是个“李鬼”。
那么,我们应该如何通过IP来判断spider是不是来自百度搜索引擎的呢?
可以通过DNS反查方式来解决这个问题。根据平台不同验证方法不同,如linux/windows/os三种平台下的验证方法分别如下:
1、在linux平台下,可以使用host ip命令反解ip来判断是否来自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名。
2、在windows平台或者IBM OS/2平台下,可以使用nslookup ip命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入nslookup xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以*.baidu.com 或*.baidu.jp的格式命名。
3、在mac os平台下,你可以使用dig 命令反解ip来判断是否来自百度spider的抓取。打开命令处理器,输入dig xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来
自Baiduspider的抓取,Baiduspider的hostname以*.baidu.com 或*.baidu.jp的格式命名。
注意:非 *.baidu.com 或 *.baidu.jp 格式命名的,即为假的为冒充。