我今天来给大家详细讲解下，先了解几个概念
1、robots只是禁止抓取，不是禁止收录
2、另外还有nofollow的作用不是不抓取这个链接，是不从这个链接传递权重
了解这2个概念后，我们再来讨论怎么处理这类收录问题：
robots写正确的同时，不要在任何一家收录的网站发外链，友链，也不要主动提交百度，这样才可以保证不被搜索引擎收录，为什么呢？
大家百度查一下淘宝，如图：
按照道理淘宝写了robots怎么还是收录，因为有大量的链接指向淘宝官网，而且这些外链可能权重都比较高，
全部都禁止了，依然收录了1亿多条链接
看到这里，是不是有感而发，我们怎么从百度导流到你的淘宝店！（来源：夫唯seo特训营）
301转向是指在网站代码中设置一个永久重定向，将一个网页的URL地址重定向到另一个URL地址。301转向的作用包括： 1. 改变URL结构时，将旧URL地址重定向到新URL地址，以保持搜索引擎的收录和排名。 2. 合并或重构网站时，将原来的网页重定向到新的网页，以避免404错误页面的出现，同时保留原来网页的SEO价值。 3. 修复破损的链接，将错误的URL重定向到正确的URL地址。 设置3
操作步骤： 1. 登录网站管理后台，找到重定向/跳转功能。 2. 选择301重定向。 3. 输入原网址和目标网址，保存设置即可。 注意事项： 1. 确认需要301重定向的页面是否已经删除或更改地址。 2. 对于移动端和PC网页做好不同的重定向设置。 3. 确保301重定向的目标网址是正确的，避免出现死链。 4. 301重定向对于搜索引擎有影响，设置前需对SEO做好分析和评估。
哈喽大家好！【搜索问答剧场】最新一集如期而至，平小雕又带着满满的知识干货回来啦！准备好迎接知识的洗礼了嘛？第五集【搜索问答剧场】中，跟大家提到了【Robots】工具。本期就来详细教大家如何灵活地使用【Robots】工具，以及如何正确设置网站整体的抓取范围。一、了解robots文件1、Q：什么是robots文件？A：robots文件用于指定spider在网站上的抓取范围，在文件中可以声明网站中不想被
我robots这样写是不是就能避免蜘蛛爬这个“index.htm”这个首页？User-agent: *Disallow: /index.htm11-30.我的index.htm是现在默认的首页，想屏蔽蜘蛛抓取。让蜘蛛爬另一个文档，主要是规避备案巡查我的网站和我备案的不一样，服务器那边要求改，我就整了个htm文档来规避下。写法没有问题。但正常的不建议屏蔽首页地址，，“index.htm”这个后缀地址
