國內一位開發者在 GitHub 上開源了個集眾多數據源于一身的爬蟲工具箱——InfoSpider,一不小心就火了!!!
有多火呢?開源沒幾天就登上GitHub周榜第四,標星1.3K,累計分支172個(GitHub地址:https://github.com/kangvcar/InfoSpider) 在這樣一個信息爆炸的時代,每個人都有很多個賬號,賬號一多就會出現這么一個情況:個人數據分散在各種各樣的公司之間,就會形成數據孤島,多維數據無法融合,這個項目可以幫你將多維數據進行融合并對個人數據進行分析,這樣你就可以更直觀、深入了解自己的信息。 InfoSpider 是一個集眾多數據源于一身的爬蟲工具箱,旨在安全快捷的幫助用戶拿回自己的數據,工具代碼開源,流程透明。并提供數據分析功能,基于用戶數據生成圖表文件,使得用戶更直觀、深入了解自己的信息。
目前支持數據源包括GitHub、QQ郵箱、網易郵箱、阿里郵箱、新浪郵箱、Hotmail郵箱、Outlook郵箱、京東、淘寶、支付寶、中國移動、中國聯通、中國電信、知乎、嗶哩嗶哩、網易云音樂、QQ好友、QQ群、生成朋友圈相冊、瀏覽器瀏覽歷史、12306、博客園、CSDN博客、開源中國博客、簡書。 根據創建者介紹,InfoSpider 具有以下特性:
安全可靠:本項目為開源項目,代碼簡潔,所有源碼可見,本地運行,安全可靠。
使用簡單:提供 GUI 界面,只需點擊所需獲取的數據源并根據提示操作即可。
結構清晰:本項目的所有數據源相互獨立,可移植性高,所有爬蟲腳本在項目的 Spiders 文件下。
數據源豐富:本項目目前支持多達24+個數據源,持續更新。
數據格式統一:爬取的所有數據都將存儲為json格式,方便后期數據分析。
個人數據豐富:本項目將盡可能多地為你爬取個人數據,后期數據處理可根據需要刪減。
數據分析:本項目提供個人數據的可視化分析,目前僅部分支持。
InfoSpider使用起來也非常簡單,你只需要安裝python3和Chrome瀏覽器,運行 python3 main.py,在打開的窗口點擊數據源按鈕, 根據提示選擇數據保存路徑,接著輸入賬號密碼,就會自動爬取數據,根據下載的目錄就可以查看爬下來的數據。 是不是很簡單呢,如果你對InfoSpider也感興趣,趕緊試一下。
責任編輯:lq
-
開源
+關注
關注
3文章
3251瀏覽量
42407 -
GitHub
+關注
關注
3文章
466瀏覽量
16387 -
爬蟲
+關注
關注
0文章
82瀏覽量
6840
原文標題:一款爆紅的開源爬蟲工具箱
文章出處:【微信號:TheBigData1024,微信公眾號:人工智能與大數據技術】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論