robots.txt文件是一个文本文件，用于向搜索引擎和其他机器人网站爬虫指定哪些页面或内容可以被爬取，哪些页面或内容不能被爬取。它的主要作用是为了控制搜索引擎和其他机器人网站爬虫访问和抓取网站内容，保护网站的隐私和安全。如果一个网站不想被某些搜索引擎或爬虫访问、爬取和索引，就可以通过robots.txt文件来禁止它们。另外，robots.txt文件还可以防止一些机器人抓取出现线上攻击或滥用等安全问题。因此，对于任何一个网站来说，编写一个有效的robots.txt文件都是非常必要的。
可以，但建议您还是提交所有网址，以确保搜索引擎对您网站的全面索引。
F型结构是指在网站内容展示的前沿区域，用户的阅读行为呈现出一个“F”字形状。具体来说，用户在浏览网页时，会先在页面顶部水平扫描，然后垂直下滑浏览左侧区域，最后再次水平扫描浏览右侧区域，形成了一个“F”字形的浏览路径。因此，F型结构的网站设计应该在页面顶部和左侧区域呈现最重要、最吸引人的内容，吸引用户的注意力，并且要注意深入挖掘左侧区域的内容，使用户得到更多信息。
要避免搜索引擎蜘蛛爬取某个页面，可以在robots.txt文件中添加如下指令： User-agent: * Disallow: /index.htm 这样，所有搜索引擎蜘蛛都不会爬取网站的index.htm首页页面。注意，这并不代表该页面会从搜索结果中彻底移除，因为即使没有被索引，用户仍然可以在搜索结果中找到该页面。
我不确定你所指的“robots非标准扩展协议”是什么，因为Robot协议是Web爬虫标准协议之一，旨在告诉Web爬虫哪些页面可以爬取和哪些页面不应该被爬取。它是一个标准协议，而不是扩展协议。 如果您能提供更多信息，我可以尝试提供更详细的回答。
