1、禁止索引 /wp-admin：用于管理wordpress网站的控制面板，不允许百度收录，避免流量分散。 User-agent: * Disallow: /wp-admin/ 2、禁止索引/wp-includes：WordPress中的核心文件，利用文件禁止百度爬行，提高访问速度。 User-agent: * Disallow: /wp-includes/ 3、禁止索引/wp-content：WordPress的插件文件和上传的文件，很多需要用户登录才能访问，不允许百度收录，增加wordpress网站的优化效果。 User-agent: * Disallow: /wp-content/
a：网页的<Canonical>是告诉搜索引擎在若干的内容相同，URL不同的页面中那个最规范，最希望被收录的，避免相同内链的网页通过不同URL带来权重分散的问题，从而达到页面权重集中的目的。
在进行301重定向时，可以通过以下方法进行URL标准化设置： 1. 统一使用小写字母：确保所有URL链接都使用小写字母，避免大小写混淆和重复。 2. 移除多余的斜杠：确保URL链接中不包含多余的斜杠，例如 http://example.com//page 要转换成 http://example.com/page。 3. 移除查询参数的排序：如果URL链接附带查询参数，应该避免按照任意顺序排列
笔者在百度站长平台检测自己的博客时，出于优化的惯性，对博客的Rbots进行了检测，进而在百度搜索了WordPress博客robots的写法设置问题，看了很多wordpress高手对robots优化设置后，终于有所领悟，在此也分享给一些wordpress新手看看如何去善用robots.txt对wordpress博客进行优化。一、先来普及下robots.txt的概念：robots.txt(统一小写)是
1、禁止索引 /wp-admin：用于管理wordpress网站的控制面板，不允许百度收录，避免流量分散。 User-agent: * Disallow: /wp-admin/ 2、禁止索引/wp-includes：WordPress中的核心文件，利用文件禁止百度爬行，提高访问速度。 User-agent: * Disallow: /wp-includes/ 3、禁止索引/wp-c
