任务详情
一、需求 处理亚马逊多站点关键词爬取风控503反爬 二、具体说明 现项目需求爬取亚马逊各个站点的关键词信息,在大批量爬取的过程中,遇到了503的风控反爬,情况表现如下: 1. 美国站点的爬虫稳定正常,没有503反爬情况 2. 除了美国站以外的站点,以英国和德国为例,在爬取前1-2小时内爬取正常,在第2小时左右开始,出现大量503的情况。 3. 日级别爬取量 UK(英国): 750000, DE(德国): 900000, FR(法国): 330000, ES(西班牙): 240000, IT(意大利): 345000, CA(加拿大):405000, JP(