robots禁止抓取图片
User-agent: *
Disallow: .jpg$
jpg可以代替为gif,png 等等...
来源:360站长平台
Public @ 2023-01-15 16:09:02
User-agent: *
Disallow: .jpg$
jpg可以代替为gif,png 等等...
来源:360站长平台
页面已经无效,无法对用户提供任何有价值信息的页面就是死链接,包括协议死链和内容死链两种形式:1)协议死链:页面的TCP协议状态/HTTP协议状态明确表示的死链,常见的如404、403、503状态等。2)内容死链:服务器返回状态是正常的,但内容已经变更为不存在、已删除或需要权限等与原内容无关的信息页面。目前内容死链召回存在召回率的风险,所以建议各位站长尽量使用协议死链,以保证平台工具更好地发挥其作用
支持XML格式和TXT文本格式。
360搜索对Robots协议进行了扩展,增加了以下几个指令: 1. User-Agent:用于指定搜索引擎访问网站时使用的用户代理字符串,可以设置多个User-Agent。 2. Crawl-delay:用于指定搜索引擎访问网站时的延迟时间,单位为秒。可以设置针对不同的User-Agent的延迟时间。 3. Sitemap:用于指定网站的sitemap文件的地址,搜索引擎将通过该文件获取站点
User-agent: *Disallow: .jpg$jpg可以代替为gif,png 等等...来源:360站长平台