由于JavaScript可以创造很多吸引人的视觉效果，有些网站喜欢使用JavaScript脚本生成导航。这也是严重的蜘蛛陷阱之一。
据观察，有的搜索引擎在技术上可以获得JavaScript脚本中包含的链接，甚至可以执行脚本并跟踪链接，但对权重低的网站，搜索引擎觉得没必要，不会费那个劲。所以网站上的链接必须使用最简单标准的HTML链接，尤其是导航系统。用CSS做导航同样可以实现很多视觉效果。
JavaScript链接在SEO中也有特殊用途，那就是站长不希望被收录的页面（如无排名意义的页面，重复内容页面等），不希望彻底权重的链接，可以使用JavaScript脚本阻止搜索引擎爬行。
来源：搜外网
许多年前，让网站被搜索引擎选中包括填写表格，注册该网站，并手动编辑希望该网站被搜索的关键词，这个过程随着搜索引擎网络爬虫或网络蜘蛛的出现而改变。本文就robots相关内容，做详细的介绍。什么是搜索引擎蜘蛛？搜索引擎蜘蛛是一种自动程序，它沿着从一个网页到另一个网页的链接在互联网上爬行，为内容编制索引并将其添加到数据库中。这意味着，只要网站有一个来自其他网站且搜索引擎已经知道的链接，然后它会找到随着时
以下是一些可能需要使用robots.txt文件制止抓取的网站目录： 1. 敏感网站：包括医疗机构、政府机构、银行和其他敏感机构的网站。 2. 私人网站：包括个人博客、论坛和社交媒体账号。 3. 用户数据：包括个人信息、照片、视频和其他敏感数据。 4. 搜索引擎排除页面：包括不想在搜索引擎结果中出现的页面。 5. 网站目录：包括一些不需要搜索引擎索引的目录，如网站的管理员和内部页面。 6
百度和google里面搜索我的站点，出现：“访问本页面，您的浏览器需要支持JavaScript”。到底怎么回事？比如：这几天发现在百度和GOOGLE里搜索自己的站点时都显示:访问本页面,您的浏览器需要支持JavaScript... 前几天还是正常的,网页都是纯的HTML,根本不存在浏览器是否支持的问题,请问是什么原因造成的呢?答案：我进行了一系列的分析，发现类似你这种情况的网站还很多。通过搜索“访
由于JavaScript可以创造很多吸引人的视觉效果，有些网站喜欢使用JavaScript脚本生成导航。这也是严重的蜘蛛陷阱之一。据观察，有的搜索引擎在技术上可以获得JavaScript脚本中包含的链接，甚至可以执行脚本并跟踪链接，但对权重低的网站，搜索引擎觉得没必要，不会费那个劲。所以网站上的链接必须使用最简单标准的HTML链接，尤其是导航系统。用CSS做导航同样可以实现很多视觉效果。JavaS
