您所在的位置: 需求库 人才需求 高级数据爬虫工程师

高级数据爬虫工程师

发布时间: 2021-11-25

价格: 自行协商

晋江市 | 5-10年 | 本科/学士及同等学历 | 其它 | 新一代信息技术产业,信息传输、软件和信息技术服务业

需求描述

岗位职责:

1、负责多平台信息爬取和页面内容的提取分析,负责破解各类反爬机制;

2、负责APP的数据抓取和爬取链路优化(包括APP反编译、逆向分析、脱壳、加密参数破解、抓取攻防等),提升抓取能力;

3、负责HTTP、AJAX等各类网络请求分析,探索和研究高效的数据抓取解决方案;

4、研究爬虫策略和防屏蔽规则,解决封账号、封IP、验证码、页面跳转等难点,提升网页抓取的效率和质量;

5、不断完善和重构现有爬虫系统,通过对抓取、解析、调度、存储等模块的拆分与优化,构建和完善统一的抓取服务平台。

任职要求:

1、5年及以上研发经验

2、熱练掌握 Python,熟悉 python设计模式,理解 python使用边界

3.有搭建 python分布式后合服务经验优先

4、有 docker构建 python环境经验优先

5、具备web前端开发经验(VUE,Html5)、阅读英文文档能力优先

6、有责任心、善于沟通、抗压能力强

7、有探索精神,对前沿技术兴趣浓厚,喜欢具有挑战的问题,能独立分析解决问题。

办公地址

五里工业园区裕源路10号

处理进度

  1. 提交需求
    2021-11-25 11:04:13
  2. 确认需求
    2021-11-25 11:19:03
  3. 需求服务
    2021-12-02 18:05:07
  4. 需求签约
  5. 需求完成