站点每天最高爬虫多少次?
2020-11-10 17:16:04发布
Simba
这个没有规定的说明,有的站点我们一天会抓一两千万,有的站点只抓几个、几十个,看你的规模和质量,而且这个抓取量也是会根据网站的情况进行调整的。我们可以试着把百度蜘蛛抓取频率调整到最大7k多
最多设置5个标签!
这个没有规定的说明,有的站点我们一天会抓一两千万,有的站点只抓几个、几十个,看你的规模和质量,而且这个抓取量也是会根据网站的情况进行调整的。我们可以试着把百度蜘蛛抓取频率调整到最大7k多
一周热门 更多>