sogou spider 如何反应我网站上页面的更新?
- 威海Spider 威海sogou spider
- 2404
sogou spider 会根据网页的重要性和历史变化情况来动态调整更新时间,更新已经抓取过的页面
Public @ 2010-09-06 15:38:57
sogou spider 会根据网页的重要性和历史变化情况来动态调整更新时间,更新已经抓取过的页面
1、网站和页面权重。质量高,资格老的网站被认为权重比较高,这种网站上的页面被爬行的深度也会比较高,所以会更多内页被收录。2、与首页点击距离。一般来说网站上权重最高的是首页,大部分外部链接是指向首页的,蜘蛛访问最频繁的也是首页。离首页点击距离近,页面权重越高,被蜘蛛爬行的机会也越大。3、导入链接。无论是外部链接还是同一个网站的内部链接,要被蜘蛛抓取,就必须有导入链接进入页面,否则蜘蛛根本没有机会知道
PC端UA为Sogou web spiderSogou inst spiderSogou spider无线端UA为Sogou wap spider来源:搜狗资源平台
Sogou web spider 和 Sogou inst spider请注意,根据标准,ua区分大小写。
sogou spider 支持 robots 协议,您可以在网站的根目录放置 robots.txt。robots.txt 的规则请参阅 http://www.robotstxt.org/。需要注意的是,最新更新的 robots.txt 可能需要几个星期才能体现出效果来,另外,被您禁止 sogou spider 收录的网页将不能在搜狗搜索引擎上检索到。