我今天来给大家详细讲解下，先了解几个概念
1、robots只是禁止抓取，不是禁止收录
2、另外还有nofollow的作用不是不抓取这个链接，是不从这个链接传递权重
了解这2个概念后，我们再来讨论怎么处理这类收录问题：
robots写正确的同时，不要在任何一家收录的网站发外链，友链，也不要主动提交百度，这样才可以保证不被搜索引擎收录，为什么呢？
大家百度查一下淘宝，如图：
按照道理淘宝写了robots怎么还是收录，因为有大量的链接指向淘宝官网，而且这些外链可能权重都比较高，
全部都禁止了，依然收录了1亿多条链接
看到这里，是不是有感而发，我们怎么从百度导流到你的淘宝店！（来源：夫唯seo特训营）
内部链接部分列出所有页面的内部链接数。站长从这里可以大致判断网站内部链接结构是否有重大缺陷。如果全站主导航中出现的分类首页内部链接数非常低，很可能说明导航系统有问题。内部链接数的另一个作用是反映出网站收录页面数。Google的site：指令也不太准确，而且现在越来越不准确，经常不能反映出收录数字。网管工具中内部链接部分列出的首页内部链接总数，大致上就相当于Google收录的页面总数，因为网站上每一
大家都知道外部链接对网站排名的重要性，同时也建议不要忽略了站内链接的作用。外部链接大部分情况下是不好控制的，而且要经过很长时间的积累，内部链接却完全在自己的控制之下，是SEO手中可优化的重点内容之一。下面列几个优化站内链接的技巧和经验。建立网站地图稍有规模的网站，比如几百页以上，只要有可能，最好给网站建一个完整的网站地图sitemap。同时把网站地图的链接放在首页上，使搜索引擎能很方便的发现和抓取
【Robots简介】robots.txt是一个协议，是搜索引擎访问网站时第一个要查看的文件，它存在的目的是告诉搜索引擎哪些页面能被抓取，哪些页面不能被抓取。当spider访问一个站点时，会首先检查该站点根目录下是否存在robots.txt，如果存在，spider会按照文件中的内容来确定访问的范围；如果该文件不存在，所有的spider将能够访问网站上所有没有被口令保护的页面。【具体介绍】1、User
User-agent: *Disallow: .jpg$jpg可以代替为gif，png 等等...来源：360站长平台
