1、搜索引擎在爬取网站前会做什么？一般来说搜索引擎爬取网站时都会，先读取下robots.txt文件，并依照里面所设定的规则去爬取网站（当然是指没用登录限制的页面）2、robots.txt文件的内容和结构...