User-agent: [robot名稱] Disallow: [禁止存取的目錄或檔案] Allow: [允許存取的目錄或檔案] Sitemap: [網站地圖檔案位置] 注意事項： - User-agent：要設定的是區分搜索引擎的機器人，可設定多個。若不加此欄位，則視為通用設定。 - Disallow：機器人不可存取的目錄或檔案，在此設定時，要注意目錄名稱或檔案名稱是完整的，不要與其他目錄或檔案混淆，否則會影響索引品質。 - Allow：機器人允許存取的目錄或檔案，若不設定，代表機器人可自由存取。 - Sitemap：網站地圖檔案通常是一個XML檔案，提供站點中所有的頁面、文章等連結資訊，可以協助搜尋引擎更精確地抓取網站的內容。在robots.txt中設定可以幫助搜尋引擎更快速地尋找該檔案，並進一步了解網站結構和相關信息。
网站结构优化是SEO的主要工作之一，对大中型网站来说更是重点和难点。URL的优化是结构优化的基础内容。URL处理不好，经常造成页面收录问题，就更谈不上排名和流量了。其实URL的优化是相对简单的部分，因为是SEO自己完全可以掌控的，只需要注意一些细节。下面总结几条关于URL优化的经验和技术要求。1）域名的选择如果是在五六年年前，我会告诉大家域名中最好放上关键词。不过现在建议大家域名中能放关键词最好，
Google网站地图(sitemap)是Google提供给网站管理员的一个工具，来提高网站被收录的网页数目。一般来说，搜索引擎蜘蛛会跟着链接爬行到你网站的所有网页。但很多时候，由于种种原因，并不是所有网页都能被收录进搜索引擎数据库。比如说，你的网站是数据库动态生成的，URL中带有参数，一些网页离主页太远，你的网站PR值太低，新的网页可能过很长时间才有机会被抓取等等。Google Sitemap就允
robots.txt文件放在哪里?robots.txt文件应该放置在网站根目录下。举例来说，当spider访问一个网站（比如 http://www.abc.com）时，首先会检查该网站中是否存在http://www.abc.com/robots.txt这个文件，如果 Spider找到这个文件，它就会根据这个文件的内容，来确定它访问权限的范围。网站 URL相应的 robots.txt的 URLhtt
360搜索对Robots协议进行了扩展，增加了以下几个指令： 1. User-Agent：用于指定搜索引擎访问网站时使用的用户代理字符串，可以设置多个User-Agent。 2. Crawl-delay：用于指定搜索引擎访问网站时的延迟时间，单位为秒。可以设置针对不同的User-Agent的延迟时间。 3. Sitemap：用于指定网站的sitemap文件的地址，搜索引擎将通过该文件获取站点
