我今天来给大家详细讲解下，先了解几个概念
1、robots只是禁止抓取，不是禁止收录
2、另外还有nofollow的作用不是不抓取这个链接，是不从这个链接传递权重
了解这2个概念后，我们再来讨论怎么处理这类收录问题：
robots写正确的同时，不要在任何一家收录的网站发外链，友链，也不要主动提交百度，这样才可以保证不被搜索引擎收录，为什么呢？
大家百度查一下淘宝，如图：
按照道理淘宝写了robots怎么还是收录，因为有大量的链接指向淘宝官网，而且这些外链可能权重都比较高，
全部都禁止了，依然收录了1亿多条链接
看到这里，是不是有感而发，我们怎么从百度导流到你的淘宝店！（来源：夫唯seo特训营）
大型网站进行301重定向的策略可以根据以下步骤进行： 1.确定需要重定向的页面：首先需要确定哪些页面需要进行重定向，通常情况下包含以下几类：网站结构调整、页面风格更改、网站域名更变等。 2.建立一个完整的重定向清单：将需要重定向的页面以及它们的重定向目标URL列入一个清单。 3.执行重定向：将清单中的页面进行301重定向，确保所有重定向都指向正确的目标URL。 4.测试重定向：进行重定向测
? 移动Sitemap协议是一种网页搜索引擎爬虫技术，用于提交移动应用平台的URL。它将搜索引擎索引器仔细地把手机浏览器访问URL索引到搜索结果中。 提交移动Sitemap协议方法： 1.使用移动应用程序开发工具，将您的移动应用程序部署到可搜索平台，比如Apple App Store、Google Play for Android等。 2.在您的应用程序的网页端部署XML文件，即您的移动S
robots.txt文件是一个文本文件，用于向搜索引擎和其他机器人网站爬虫指定哪些页面或内容可以被爬取，哪些页面或内容不能被爬取。它的主要作用是为了控制搜索引擎和其他机器人网站爬虫访问和抓取网站内容，保护网站的隐私和安全。如果一个网站不想被某些搜索引擎或爬虫访问、爬取和索引，就可以通过robots.txt文件来禁止它们。另外，robots.txt文件还可以防止一些机器人抓取出现线上攻击或滥用等安全
我不确定你所指的“robots非标准扩展协议”是什么，因为Robot协议是Web爬虫标准协议之一，旨在告诉Web爬虫哪些页面可以爬取和哪些页面不应该被爬取。它是一个标准协议，而不是扩展协议。 如果您能提供更多信息，我可以尝试提供更详细的回答。
