Google(谷歌) 如何解读 robots.txt 规范

Google 的自动抓取工具支持 REP（robots 协议）。这意味着，在抓取某一网站之前，Google 抓取工具会下载并解析该网站的 robots.txt 文件，以提取关于网站中哪些部分可以被抓取的信息。REP 不适用于由用户控制的 Google 抓取工具（例如 Feed 订阅），也不适用于用来提高用户安全性的抓取工具（例如恶意软件分析）。 本文介绍了 Google 对 REP 的解读...