sogou spider 支持 robots 协议，您可以在网站的根目录放置 robots.txt。
robots.txt 的规则请参阅 http://www.robotstxt.org/。需要注意的是，最新更新的 robots.txt 可能需要几个星期才能体现出效果来，另外，被您禁止 sogou spider 收录的网页将不能在搜狗搜索引擎上检索到。
360Spider的ip，我们已经公开在这里辣~：http://www.so.com/help/spider_ip.html360Spider的UA（UA是蜘蛛访问的时候，在服务器中留下的访问签名信息，凡是下面这个UA，就代表是360Spider来过了）：Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Geck
进入移动时代，同学们肯定会发现，百度官方和各知名SEO大拿们都在不断强调一个词：速度！最重要的莫过于，从用户点击搜索结果到页面完全加载完毕，不可超过3秒，否则有可能被限制展现（因为百度做过测试，当页面在3秒以上还无法打开的话，用户会选择关闭该网页）。于是大家各种针对速度的问题也多了起来，在深圳VIP大讲堂中，我们看到了这样一个简单的对话：同学问：站点遇到百度蜘蛛抓取，应该在多长时间内给出反馈？时间
作为一款搜索引擎，sogou spider通常不会封锁任何网站。它的任务是遍历互联网并收集网站信息，然后将其添加到sogou搜索结果中。然而，如果一个网站包含有害的内容或违反了法律法规，sogou和其他搜索引擎可能会将其从搜索结果中删除，但这不属于sogou spider的工作范畴。
sogou spider 会根据网页的重要性和历史变化情况来动态调整更新时间，更新已经抓取过的页面
