Categories


Tags


360搜索对Robots协议的支持

360搜索支持Robots协议的主要命令,以下为具体说明:

1. user-agent

360搜索各产品的爬虫user-agent为:

- 网页搜索 360Spider

- 图片搜索 360Spider-Image

- 视频搜索 360Spider-Video

2. Allow

站长可通过Allow命令指定建议收录的文件、目录 。

3. Disallow

站长可通过Disallow命令指定不建议收录的文件、目录。


Public @ 2019-06-30 16:09:34

大型网站如何做301重定向的策略

1. 使用301跳转,将301跳转设置为静态资源; 2. 使用通用引擎脚本,如PHP、ASP或Perl脚本,实现编写代码实现301跳转; 3. 如果需要对不同参数进行重定向,则可以对每个参数创建一个重定向规则; 4. 如果需要重定向大量的网页,则创建.htaccess文件,并使用表达式及RewriteRule TIPS的语法编写大量的重定向规则; 5. 使用CDN数据中心,如Cloud

Public @ 2023-02-26 14:54:18

网站结构优化:所谓F型结构是指什么

| 网站结构的种类:F型结构:网站的大部分页面内容展示方式如字母F一样。树状结构:指的是页面的归属关系。例如:首页->一级分类->二级分类->内容页面。| 为什么要用优化网站结构?符合用户使用习惯对SEO更友好| 案例展示:工业产品/服务类:williamlong.info教程/文章:seowhy.com/faq博客/资讯:gaosan.com(搜外网)

Public @ 2013-01-10 16:12:10

robots使用误区

1. 不需要在每个页面都添加robots.txt文件:robots.txt文件只是一份给搜索引擎看的指令,如果不希望搜索引擎从该页面抓取数据,那么每一页都是可以不用添加robots.txt文件的。 2. 不能用于移动设备:robots.txt文件可用于搜索引擎爬虫,但也可以在部分机型的移动设备上进行yu处理,可以用于控制移动设备的蜘蛛爬行进行内容抓取。 3. 不应该将robots保存到公用

Public @ 2023-03-03 14:00:19

robots.txt语法教程

用几个最常见的情况,直接举例说明:1. 允许所有SE收录本站:robots.txt为空就可以,什么都不要写。2. 禁止所有SE收录网站的某些目录:User-agent: *Disallow: /目录名1/Disallow: /目录名2/Disallow: /目录名3/3. 禁止某个SE收录本站,例如禁止百度:User-agent: BaiduspiderDisallow: /4. 禁止所有SE收录

Public @ 2017-12-16 16:09:16

更多您感兴趣的搜索

0.417962s