名称 搜索引擎
google蜘蛛: googlebot
百度蜘蛛:baiduspider
yahoo蜘蛛:slurp
alexa蜘蛛:ia_archiver
msn蜘蛛:msnbot
altavista蜘蛛:scooter
lycos蜘蛛: lycos_spider_(t-rex)
alltheweb蜘蛛: fast-webcrawler/
inktomi蜘蛛: slurp
一个在线写robots.txt的工具。
最后需要注意，robots.txt文件名必须是小写，而且放在网站根目录
来源：360站长平台
请在 Sitemap 中只列出一种格式的网址。包含多种格式的网址可能会导致抓取工具无法完整地抓取网站。
如果你是一个新手，以下是建议： 1. 了解什么是网站地图(Sitemap) 网站地图(Sitemap)是指一份关于网站上页面、内容和其他重要信息的清单。它可以帮助搜索引擎更好地了解并索引您的网站。 2. 确定您的网站地图的结构 通过选择您的网站地图结构，您可以确定哪些页面是最重要的，并确定它们的层次结构。一旦你确定了这个结构，你可以依次列出所有这些页面。 3. 制作网站地图 一旦你确定
robots.txt 是一个文本文件，用于指示搜索引擎爬虫哪些页面可以被抓取，哪些页面不应该被抓取。在建立一个网站时，可以通过 robots.txt 控制搜索引擎爬虫对网站的访问，以达到更好的SEO效果。以下是robots.txt的使用教程。 步骤1：新建 robots.txt 文件 在网站的根目录下，新建一个名为 robots.txt 的文本文件。 步骤2：编辑 robots.txt 文件
