Categories


Tags


头条搜索Bytespider IP反解析

反查IP

站长可以通过DNS反查IP的方式判断某只spider是否来自头条搜索引擎。根据平台不同验证方法不同,如linux/windows/os三种平台下的验证方法分别如下

在linux平台下,您可以使用host ip命令反解ip来判断是否来自Bytespider的抓取。Bytespider的hostname以*.bytedance.com的格式命名,非 *.bytedance.com即为冒充

host 111.225.148.250

148.148.225.111.in-addr.arpa domain name pointer bytespider-111-225-148-148.crawl.bytedance.com.

在windows平台或者IBM OS/2平台下,您可以使用nslookup ip命令反解ip来判断是否来自Bytespider的抓取。打开命令处理器 输入nslookup  -qt=ptr  xxx.xxx.xxx.xxx(IP地 址)就能解析ip,来判断是否来自Bytespider的抓取,Bytespider的hostname以*.bytedance.com 的格式命名,非*.bytedance.com 即为冒充。

在mac os平台下,您可以使用dig命令反解ip来判断是否来自Bytespider的抓取。打开命令处理器输入dig -x xxx.xxx.xxx.xxx(IP地址)就能解析ip, 来判断是否来自Bytespider的抓取,Bytespider的hostname以 *.bytedance.com的格式命名,非 *.bytedance.com即为冒充。

来源:头条搜索站长平台


Public @ 2013-03-31 15:38:59

搜索引擎蜘蛛对于网站抓取是否很智能?如何引导蜘蛛?

尽管搜索引擎在不断的升级算法,但是终究其还是程序,因此我们在布局网站结构的时候要尽可能的让搜索引擎蜘蛛能看的懂。每个搜索引擎蜘蛛都有自己的名字,在抓取网页的时候,都会向网站标明自己的身份。搜索引擎蜘蛛在抓取网页的时候会发送一个请求,这个请求中就有一个字段为User-agent,用于标识此搜索引擎蜘蛛的身份。例如Google搜索引擎蜘蛛的标识为GoogleBot,百度搜索引擎蜘蛛的标识为Baidu

Public @ 2020-07-03 16:22:36

更多您感兴趣的搜索

0.546844s