Categories


Tags


360搜索对Robots协议的扩展

360搜索对Robots协议进行了扩展,增加了以下几个指令: 1. User-Agent:用于指定搜索引擎访问网站时使用的用户代理字符串,可以设置多个User-Agent。 2. Crawl-delay:用于指定搜索引擎访问网站时的延迟时间,单位为秒。可以设置针对不同的User-Agent的延迟时间。 3. Sitemap:用于指定网站的sitemap文件的地址,搜索引擎将通过该文件获取站点的所有URL。 4. Host:用于指定网站的主机名,可以避免因为DNS变化导致搜索引擎爬虫无法访问网站。 5. Clean-param:用于指定需要从URL中移除的参数,搜索引擎在访问网站时会忽略URL中包含的这些参数。 6. Noindex-nofollow:用于指定不需要被搜索引擎收录或链接的页面。 这些指令的使用可以让网站管理员更加灵活地控制搜索引擎爬虫的访问行为,以达到更好的SEO效果。

Public @ 2023-05-29 17:00:21

nofollow标签的作用有重大变化

nofollow标签的作用主要是告诉搜索引擎不要跟进某个链接。最初,它的主要目的是阻止链接操纵,这是一种非法的搜索引擎优化技术,通过在许多网站中添加低质量或垃圾链接来提高目标网站的排名。但是,随着时间的推移,nofollow标签已经被广泛应用于其他目的,例如: 1. 防止广告链接滥用:使用nofollow标签告诉搜索引擎某个链接是广告链接,这有助于避免被视为违反搜索引擎的广告政策。 2. 控制

Public @ 2023-06-20 15:50:19

设置搜索robots协议的后果

设置搜索robots协议的后果针对短视频类内容,视频搜索将不再索引、展现网站的视频资源,历史已索引部分会从搜索中屏蔽。若设置部分目录不希望被收录 ,该目录下内容将从搜索中屏蔽,其余内容在搜索中则以正常结果展示。来源:百度搜索资源平台

Public @ 2021-05-12 16:09:00

更多您感兴趣的搜索

0.565194s