Robots.txt 是一个网站管理员可通过在站点根目录中放置一个名为robots.txt的文件来让搜索引擎（及其爬虫）知道该如何来收录并处理某些目录或页面，并使索引过程更加有效更加规范。 Robots.txt 的作用是向搜索引擎解释网站中哪些目录和文件希望被搜索引擎收录、哪些不希望收录，以避免搜索引擎抓取到网站误差的内容。如果 robots.txt 被恰当地设置，可以有效提高收录质量和网站索引效率，从而表现出良好的搜索引擎优化效果。
在电脑操作学习和互联网使用中，我们经常会接触绝对地址和相对地址的概念。这里，重点谈互联网上的，具体谈在做网站时，绝对地址和相对地址有什么区别？绝对地址：互联网上的独立地址，在任何网站通过这个地址可以直接到达目标网页。包含主域名和目录地址。相对地址：相对于网站的地址，当域名改变时，相对地址的“绝对地址”也发生变化。假设2个网站A：www.seowhy.com B： www.baidu.c
1、更好的迎合搜索引擎工作原理的爬行抓取机制；2、把网站URL静态化更有助于网站获得好的排名；3、URL静态化有利于用户体验、不容易出错4、可以提高网站访速度、完全性、稳定性
网站误封Robots该如何处理robots文件是搜索生态中很重要的一个环节，同时也是一个很细节的环节。在网站运营过程中，很容易忽视robots文件的存在，进行错误覆盖或者全部封禁robots，造成不必要损失！如果误封禁，请及时删除或修改robots文件，并到百度站长平台robots工具中进行检测和更新。来源：百度搜索资源平台
1. 银行和金融机构的网站，因为这些网站可能包含敏感信息，例如客户的个人和财务信息。 2. 医疗保健机构的网站，因为这些网站可能包含个人医疗信息。 3. 艺术、音乐和影片网站，因为这些网站可能包含受版权法保护的内容。 4. 政府网站，特别是警察局和情报机构的网站，因为这些机构的网站可能包含安全敏感信息。 5. 搜索引擎的漏洞报告网站，因为这些网站可能敏感地显示诸如数据库配置、文件位置等敏感
