Categories


Tags


什么是robots文件

什么是robots文件

Robots是站点与spider沟通的重要渠道,站点通过robots文件声明本网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。

搜索引擎使用spider程序自动访问互联网上的网页并获取网页信息。spider在访问一个网站时,会首先会检查该网站的根域下是否有一个叫做 robots.txt的纯文本文件,这个文件用于指定spider在您网站上的抓取范围。您可以在您的网站中创建一个robots.txt,在文件中声明 该网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。

请注意,仅当您的网站包含不希望被搜索引擎收录的内容时,才需要使用robots.txt文件。如果您希望搜索引擎收录网站上所有内容,请勿建立robots.txt文件。

来源:百度搜索资源平台 百度搜索学堂


Public @ 2017-09-19 16:02:20

百度搜索资源平台-如何拥有VIP特权

VIP特权为站点自身享有的权限,包括:●服务特权——提供数据提交特殊通道(线下内测中,二期推出上线)●资源特权——原创星火计划&新闻源(线下内测中,二期推出上线)●站长权限,为账户拥有者享有的权限,与其拥有哪几个站点无关。●沟通特权——便捷线上沟通渠道●工具特权——获得更多数据●活动特权——优先参与内测和沙龙(线下内测中,二期推出上线)●专享工具(二期)账户拥有者成为VIP俱乐部会员,该账

Public @ 2013-12-20 16:07:07

百度搜索资源平台-页面优化建议工具升级维护公告

尊敬的用户: 感谢您一直以来对百度搜索资源平台-页面优化建议工具的支持与信任。 为了更好的为您服务,我们计划对页面优化建议工具进行升级维护,具体内容如下: 升级内容: 1. 增加对移动端页面的优化建议; 2. 优化工具算法,精准度更高、更人性化; 3. 修复已知问题,提升用户体验。 升级时间: 计划于xxxx年xx月xx日8:00-10:00进行升级维护,届时会短暂关闭页面优化建议

Public @ 2023-04-16 11:00:10

我希望我的网站内容被百度索引但不被保存快照,我该怎么做?

我希望我的网站内容被百度索引但不被保存快照,我该怎么做?Baiduspider遵守互联网meta robots协议。您可以利用网页meta的设置,使百度显示只对该网页建索引,但并不在搜索结果中显示该网页的快照。和robots的更新一样,因为搜索引擎索引数据库的更新需要时间,所以虽然您已经在网页中通过meta禁止了百度在搜索结果中显示该网页的快照,但百度搜索引擎数据库中如果已经建立了网页索引信息,可

Public @ 2014-06-20 16:08:58

360搜索对Robots协议的扩展

360搜索根据站长们的反馈,会陆续推出扩展的Robots协议命令。这些命令将能帮助站长们提高和360搜索爬虫沟通的效率,减少站长们维护Robots协议文件的技术成本。360搜索首个扩展命令是:indexpage,站长们可以使用此命令告知360搜索哪些网页经常更新。360搜索会根据站长的指示以及自己的算法,智能调整爬虫抓取频率,实现对您网站新内容的更高频率抓取。在命令中可以使用*、$等通配符。示例:

Public @ 2019-02-15 16:09:33

更多您感兴趣的搜索

0.461496s