Categories


Tags


robots.txt语法教程

用几个最常见的情况,直接举例说明:

1. 允许所有SE收录本站:robots.txt为空就可以,什么都不要写。

2. 禁止所有SE收录网站的某些目录:

User-agent: *

Disallow: /目录名1/

Disallow: /目录名2/

Disallow: /目录名3/

3. 禁止某个SE收录本站,例如禁止百度:

User-agent: Baiduspider

Disallow: /

4. 禁止所有SE收录本站:

User-agent: *

Disallow: /

5. 加入sitemap.xml路径,例如:

来源:360站长平台


Public @ 2017-12-16 16:09:16

网站URL显示品牌名字怎么弄

要在网站URL中显示品牌名称,可以采用以下方法: 1. 建立一个包含品牌名称的域名,例如www.yourbrandname.com。 2. 将品牌名称包含在网站URL的子目录中,例如www.yourwebsite.com/yourbrandname。 3. 使用品牌名称作为网站URL的一部分,例如www.yourbrandname.yourwebsite.com。 4. 在网站的META标

Public @ 2023-06-17 09:00:13

导航结构如何优化?

导航结构的作用:网站号航主题是引导用户访间指定的网站菜单、栏目、内容等。一个合理的网站导购也是权重互传的重要途径。导航结构越清晰,越有利于用户在短时间内找到自己喜欢的内容。导航结构有如下三方面的作用:1、引导用户访问指定页面。其中全局导航、分类导航、辅助导航都是出于此目的进行的。2、理清网站各内容与链接间的联系。即对网站整理内容的一个索引和理解,这个最常见的应用就是网站地图和内容索引表,展现了整个

Public @ 2017-07-20 16:11:44

百度搜索robots协议全新升级公告

尊敬的用户: 为了更好地保护您的隐私和内容权益,百度搜索已经全新升级了robots协议。该协议将更加严格地限制搜索引擎爬取您的网站内容,以保障您的权益。 更新后的robots协议针对以下内容进行了调整: 1.增加禁止搜索引擎爬取的网页类型,如登录页、支付页、个人信息页等。 2.增加网站所有者对搜索引擎爬取的细节设置,包括最大爬取频率、爬取深度、爬取延时等。 3.优化 robots.txt

Public @ 2023-04-17 05:00:13

Robots META标签的写法

如果您想让搜索引擎忽略某些网页,可以使用"robots" META标签。以下是这种标签的写法: ```html ``` 上述标签将告诉搜索引擎不要索引或跟踪该网页。下面是一些其他常见的指令: - "index" 将指令搜索引擎索引该页面。 - "follow" 将指令搜索引擎跟踪此页面上的链接。 - "noindex" 将指令搜索引擎不要索引此页面。 - "nofollow" 将指令搜索引擎

Public @ 2023-04-08 21:50:38

更多您感兴趣的搜索

0.501117s