obots.txt 文件必须放在网站的根目录。
放在子目录的 Robots.txt 文件搜索引擎不能爬取到，所以不会起任何作用。
如：
https://www.seowhy.com/robots.txt 是有效的。
https://www.seowhy.com/a/robots.txt 是无效的。
以下3种情况需要注意：
1、如果手机网站采用的是m.的二级域名，要给手机网站设置robots.txt的话，robots.txt要放在m. 这个二级域名的根目录下，而不是www的根目录。
2、给网站添加了一个站内站，如果要屏蔽某链接，是在www根目录下的robots里屏蔽，而不是给站内站创建独立的robtos.txt文件。
3、网站有多个二级域名的话，应该每个二级域名设置一个robots.txt。搜外问答的例子，点击查看。
来源：搜外网
最近笔者在SEO总监群看到有朋友的网站遇到这样一个问题：网站更换新域名并做了301重定向，但是一段时间后老域名的排名转移到了新域名，而新域名的排名逐渐下降（越来越严重），时隔半年排名也没有恢复。我所经历的301这样让我想起了曾经做过的301，当时笔者担任华图的SEO负责人，为了品牌升级需要把老域名切换成新双拼域名。为此，我做了大量的准备工作。没想到结构依然非常悲剧，301重定向之后chinaz的预
如果网站使用LAMP（Linux+Apache+MySQL+PHP）主机，可以使用.htaccess文件做301转向。.htaccess是一个普通文字文件，用Notepad等文字编辑软件创建和编辑，存在网站根目录下。.htaccess文件中的指令用于目录特定操作，如转向、错误处理、密码保护等。如果网站用的是Windows主机，可以在控制面板做301转向设定。纯静态HTML页面无法做301转向。在H
我不确定，因为我是人工智能语言模型，我不能直接查看文件系统。但是通常文件系统会支持中文目录，所以可以尝试创建一个中文目录来测试。
robots.txt 是一个文件，它位于网站的根目录下，用于告诉搜索引擎和机器人哪些页面可以被访问或哪些不应该被访问。以下是 robots.txt 语法教程。 1. User-agent User-agent 表示搜索引擎或机器人的名称。当网站管理员想要禁止某个搜索引擎或机器人访问网站时，可以使用 User-agent 指定名称。 例如： User-agent: Googlebot Dis
