崗位職責:
1、負責各類站點數據爬取、接口調用接入,清洗、轉換、融合入庫以及數據處理性能調優(yōu)等工作;
2、負責爬蟲系統的設計、研發(fā)與維護,實時監(jiān)控爬蟲的進度;
3、了解業(yè)務需求,基于業(yè)務需要主動尋找數據源,制定采集規(guī)劃和清洗流程;
4、探索和分析采集的數據,能夠為業(yè)務開展提供指導。
崗位要求:
1、計算機、數學或統計等相關專業(yè),本科及以上學歷,3年以上相關工作經驗;
2、熟悉linux平臺,熟練掌握Python、SQL數據處理開發(fā)工作;
3、熟練掌握數據處理性能調優(yōu),數據清洗、轉換、整合等數據管理和維護工作;
4、熟練掌握爬蟲采集技術及架構設計,熟悉HTTP協議 ;
5、精通node,熟練掌握js逆向技術,有APP小程序等逆向的經驗;
6、了解大語言模型如chatGPT,并在實際工作中有深度使用某個產品;
7、善于學習和團隊協作,能積極主動地參與公司產品研發(fā)等相關工作。