任务详情
【项目简介】
我们目前在开发一款营销工具,需要一名有经验的爬虫工程师加入,协助完成。
【岗位职责】
设计并开发高效、稳定的爬虫系统,针对目标网站进行数据抓取;
突破反爬限制(如IP封锁、验证码、动态加载等),确保数据获取的持续性和稳定性;
对抓取数据进行清洗、去重、结构化存储,输出可用性高的数据结果;
根据需求优化现有爬虫代码,提升效率和容错能力。
【任职要求】
硬性条件:
精通Python,熟练使用Scrapy、Requests、Selenium等工具;
熟悉反爬应对策略(代理IP池、请求头伪装、动态JS解析等);
能独立完成从网页解析到数据存储的全流程开发;
有实际项目经验,能提供代码案例或成果展示(重要!)
2. 加分项:
熟悉分布式爬虫(如Scrapy-Redis)、异步框架(如aiohttp);
掌握数据清洗工具(Pandas、正则表达式)或数据库优化(MySQL/MongoDB/Redis)
【薪资待遇】
薪资面议