| 什么是robots文件？
Robots是站点与spider沟通的重要渠道，是网站与搜索引擎爬虫之间的协议，告知哪些可抓取哪些不允许。
| 为什么要做robots文件？
网站上总有一些页面是禁止蜘蛛抓取的。例如：搜索页面、筛选页面、后台登录地址等。
| 如何制作 robots文件？
编写robots.txt文件并上传到网站根目录。
| 制作 robots.txt注意事项
● 所有搜索引擎则用星号表示
● Allow（允许）和Disallow（不允许）优先级
● 至少屏蔽一个，可以屏蔽：搜索结果页面/404页面
● 记得将sitemap放到Robots文件中
● 可以陆续放入更多，而不是一次性决定所有
● 网站后台地址/图片地址/下载文件地址/错误链接（搜外网）
nofollow内部链接不会传递权重给链接指向的页面，因此不会影响内部链接的权重分布。相反，它可以帮助控制页面的链接流量分配，避免流量浪费在不需要的页面上。如果一个页面有大量的被nofollow的链接，这些链接所指向的页面就不会得到与其他链接相同数量的流量。因此，nofollow内部链接可以作为一种有效的优化策略，帮助页面优化链接权重分配和流量分配。
F型结构是一种常见的网站界面设计，通过网页访问热点分析，发现用户在第一次访问网页时会按照“F”型的阅读习惯，即先从左上角开始扫视，然后向右扫过，最后再向下扫过，这样就形成了一个“F”型的阅读路径，网站的设计就要根据这个阅读路径进行布局和排版，以便更好地吸引用户和展示内容。常见的实现方式包括将重要的信息和内容放在左上角和顶部区域，使用有吸引力的图片和标题，适量使用粗体和高亮字体突出关键内容等。
什么是robots文件Robots是站点与spider沟通的重要渠道，站点通过robots文件声明本网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。搜索引擎使用spider程序自动访问互联网上的网页并获取网页信息。spider在访问一个网站时，会首先会检查该网站的根域下是否有一个叫做 robots.txt的纯文本文件，这个文件用于指定spider在您网站上的抓取范围。您可以在您的网
User-agent: *Disallow: .jpg$jpg可以代替为gif，png 等等...来源：360站长平台
