爬蟲(chóng)工程師 (MJ001158)
15000-22000元
南昌
應(yīng)屆畢業(yè)生
本科
南昌
應(yīng)屆畢業(yè)生
本科
- 全勤獎(jiǎng)
- 節(jié)日福利
- 不加班
- 周末雙休
職位描述
該職位還未進(jìn)行加V認(rèn)證,請(qǐng)仔細(xì)了解后再進(jìn)行投遞!
崗位職責(zé)
1. 負(fù)責(zé)設(shè)計(jì)、開(kāi)發(fā)和維護(hù)高效、穩(wěn)定的爬蟲(chóng)系統(tǒng),滿(mǎn)足公司各類(lèi)數(shù)據(jù)采集需求,涵蓋市場(chǎng)數(shù)據(jù)、行業(yè)動(dòng)態(tài)、競(jìng)品信息等;
2. 綜合運(yùn)用Python、Java、Node.js等編程語(yǔ)言進(jìn)行爬蟲(chóng)程序開(kāi)發(fā),根據(jù)不同網(wǎng)站的結(jié)構(gòu)和反爬策略,選擇合適的技術(shù)方案,確保代碼具備良好的質(zhì)量、性能和可擴(kuò)展性;
3. 深入分析網(wǎng)頁(yè)結(jié)構(gòu),熟練運(yùn)用HTML、CSS、JavaScript知識(shí),精準(zhǔn)解析和提取目標(biāo)數(shù)據(jù),處理復(fù)雜的動(dòng)態(tài)網(wǎng)頁(yè)內(nèi)容,如AJAX加載、JavaScript渲染數(shù)據(jù)等;
4. 與數(shù)據(jù)分析師、算法工程師等團(tuán)隊(duì)緊密協(xié)作,理解數(shù)據(jù)需求,提供精準(zhǔn)、完整的數(shù)據(jù)抓取解決方案,保障數(shù)據(jù)的準(zhǔn)確性和及時(shí)性,為公司的業(yè)務(wù)決策和算法訓(xùn)練提供有力支持;
5. 實(shí)時(shí)監(jiān)控爬蟲(chóng)運(yùn)行狀態(tài),及時(shí)發(fā)現(xiàn)并解決性能瓶頸、數(shù)據(jù)丟失、反爬限制等問(wèn)題,通過(guò)優(yōu)化代碼、調(diào)整抓取策略等方式,持續(xù)提升爬蟲(chóng)的抓取效率和穩(wěn)定性;
6. 研究并應(yīng)對(duì)各類(lèi)反爬機(jī)制,如IP封鎖、驗(yàn)證碼識(shí)別、用戶(hù)行為檢測(cè)等,運(yùn)用代理池、驗(yàn)證碼識(shí)別技術(shù)、模擬用戶(hù)行為等手段,實(shí)現(xiàn)有效的反反爬策略,確保爬蟲(chóng)能夠穩(wěn)定運(yùn)行;
7. 定期維護(hù)和更新現(xiàn)有爬蟲(chóng)系統(tǒng),根據(jù)網(wǎng)站結(jié)構(gòu)變化和業(yè)務(wù)需求調(diào)整,及時(shí)優(yōu)化抓取邏輯,保證數(shù)據(jù)的持續(xù)獲取和有效性;
8. 編寫(xiě)詳細(xì)、規(guī)范的技術(shù)文檔,記錄爬蟲(chóng)系統(tǒng)的設(shè)計(jì)架構(gòu)、開(kāi)發(fā)流程、關(guān)鍵代碼邏輯以及維護(hù)要點(diǎn),方便團(tuán)隊(duì)成員進(jìn)行技術(shù)交流和后續(xù)維護(hù)。
任職要求
1、計(jì)算機(jī)科學(xué)、軟件工程、數(shù)學(xué)等相關(guān)專(zhuān)業(yè)本科及以上學(xué)歷;
2、4年以上爬蟲(chóng)開(kāi)發(fā)工作經(jīng)驗(yàn),具備多個(gè)完整爬蟲(chóng)項(xiàng)目的開(kāi)發(fā)和維護(hù)經(jīng)驗(yàn);
3、有過(guò)處理反爬策略的成功案例,如繞過(guò)驗(yàn)證碼、突破IP封鎖等,能夠分享有效的反反爬經(jīng)驗(yàn)和技術(shù)手段;
4、熟練掌握Python、Java、Node.js中至少兩種編程語(yǔ)言;精通HTML、CSS、JavaScript;熟悉HTTP/HTTPS協(xié)議;擁有數(shù)據(jù)庫(kù)使用經(jīng)驗(yàn),熟練掌握SQL(如MySQL、Oracle)和NoSQL(如MongoDB、Redis)數(shù)據(jù)庫(kù)的基本操作,能夠設(shè)計(jì)合理的數(shù)據(jù)存儲(chǔ)結(jié)構(gòu);熟悉分布式爬蟲(chóng)技術(shù),如Scrapy - Redis等框架,能夠構(gòu)建大規(guī)模、高性能的分布式爬蟲(chóng)系統(tǒng),提升數(shù)據(jù)采集效率;
5、具備較強(qiáng)的問(wèn)題分析和解決能力,能夠快速定位和解決爬蟲(chóng)開(kāi)發(fā)過(guò)程中遇到的各種技術(shù)難題,如數(shù)據(jù)抓取異常、性能優(yōu)化等,善于通過(guò)調(diào)試工具和技術(shù)手段進(jìn)行問(wèn)題排查;
6、對(duì)新技術(shù)保持敏銳的學(xué)習(xí)熱情和好奇心,能夠快速掌握并應(yīng)用新的爬蟲(chóng)技術(shù)和工具,適應(yīng)不斷變化的技術(shù)環(huán)境和業(yè)務(wù)需求。
工作地點(diǎn)
地址:南昌南昌縣南昌-高新區(qū)江西濟(jì)民可信集團(tuán)有限公司(總部)
??
點(diǎn)擊查看地圖
詳細(xì)位置,可以參考上方地址信息
求職提示:用人單位發(fā)布虛假招聘信息,或以任何名義向求職者收取財(cái)物(如體檢費(fèi)、置裝費(fèi)、押金、服裝費(fèi)、培訓(xùn)費(fèi)、身份證、畢業(yè)證等),均涉嫌違法,請(qǐng)求職者務(wù)必提高警惕。
職位發(fā)布者
HR
江西濟(jì)民可信集團(tuán)有限公司
-
制藥·生物工程
-
1000人以上
-
私營(yíng)·民營(yíng)企業(yè)
-
高新開(kāi)發(fā)區(qū)高新七路888號(hào)
相似職位
-
報(bào)關(guān)專(zhuān)員 面議應(yīng)屆畢業(yè)生 不限南京宜電慧創(chuàng)信息科技有限公司
-
模切工程 面議應(yīng)屆畢業(yè)生 不限蘇州凱利豐電子有限公司
-
加油站正式工/繳納五險(xiǎn)一金 面議應(yīng)屆畢業(yè)生 不限超信外包服務(wù)有限公司
-
樂(lè)高幼教老師實(shí)習(xí) 4000-6000元應(yīng)屆畢業(yè)生 大專(zhuān)蘇州匹夫文化藝術(shù)培訓(xùn)有限公司
-
副總經(jīng)理(鶴豐公司) 面議應(yīng)屆畢業(yè)生 不限江蘇省沿海開(kāi)發(fā)集團(tuán)有限公司
-
注塑工 面議應(yīng)屆畢業(yè)生 不限揚(yáng)州修正人力資源管理有限公司

最近更新
2728人關(guān)注
注:聯(lián)系我時(shí),請(qǐng)說(shuō)是在江蘇人才網(wǎng)上看到的。
