Categories


Tags


robots协议

 Robots协议(也称为爬虫协议、机器人协议等)的全称是“网络爬虫扫除规范”(RobotsExclusionProtocol),网站经过Robots协议通知查找引擎哪些页面可以抓取,哪些页面不能抓取  是查找引擎的一部分来定位和索引互联网上的每个可能答复查找恳求的网页,一般只在评论robots的HTML标签或许robots.txt文件的时分运用。

Public @ 2010-10-17 15:26:25

HTTP状况码

§§ 1000 +# HTTP状态码 §§ --- 14.8.1.md -HTTP状况码是用于表示HTTP请求/答复状况的3位数字代码。它们由RFC2616定义,共有5大类,每一类代码用于不同场景下的状况,分别为: §§ 1002 +HTTP状态码是用于表示HTTP请求/响应状态的3位数字代码。它们由RFC2616定义,共有5大类,每一类代码用于不同场景下的状态,分别为: §§ ---

Public @ 2023-02-24 17:00:29
0.554759s