长行的爬虫集合:微博、Twitter、玩加、知网、虎牙、斗鱼、B站、WeGame、猫眼、豆瓣、安居客、居理新房
☆374Jun 5, 2021Updated 4 years ago
Alternatives and similar repositories for CxSpider
Users that are interested in CxSpider are comparing it to the libraries listed below
Sorting:
- 主播数据平台基础数据爬虫,包括斗鱼、企鹅、熊猫、b站、全民、虎牙、龙珠、战旗、火猫☆16Aug 9, 2018Updated 7 years ago
- 爬虫项目:链家网(普通/scrapy)、虎扑、维基百科、百度地图api、房天下(分布式爬虫)、微信公众号(代理池爬取)☆214Dec 8, 2022Updated 3 years ago
- 爬虫案例合集。包括但不限于《淘宝、京东、天猫、豆瓣、抖音、快手、微博、微信、阿里、头条、pdd、 优酷、爱奇艺、携程、12306、58、搜狐、各种指数、维普万方、Zlibraty、Oalib、小说、招标网、采购网、小红书、大众点评、推特、脉脉、知乎》☆1,898May 9, 2024Updated last year
- boris-spider是一款使用Python语言编写的爬虫框架,于多年的爬虫业务中不断磨合而诞生,相比于scrapy,该框架更易上手,且又满足复杂的需求,支持分布式及批次采集。☆85Jan 21, 2022Updated 4 years ago
- 基于 scrapy-redis 的通用分布式爬虫框架☆619Mar 31, 2023Updated 2 years ago
- python爬虫,目前库存:网易云音乐歌曲爬取,B站视频爬取,知乎问答爬取,壁纸爬取,xvideos视频爬取,有声书爬取,微博爬虫,安居客信息爬取+数据可视化,哔哩哔哩视频封面提取器,ip代理池封装,知乎百万级用户爬虫+数据分析,github用户爬虫☆1,588Apr 23, 2024Updated last year
- Python爬虫实战 - 模拟登陆各大网站 包含但不限于:滑块验证、拼多多、美团、百度、bilibili、大众点评、淘宝,如果喜欢请start ❤️☆3,320Nov 3, 2023Updated 2 years ago
- ☆1,444Dec 8, 2022Updated 3 years ago
- 中国知网Selenium爬虫☆13Oct 21, 2024Updated last year
- 今日头条 、淘宝 、微博 、斗鱼 、抖音 、哔哩哔哩 、有道翻译、steam网站以及网易云音乐爬取☆61Apr 17, 2020Updated 5 years ago
- 新浪微博爬虫,用python爬取新浪微博数据☆9,463Feb 4, 2026Updated last month
- 并发爬取全国城市空气质量日报数据,数据来源: http://datacenter.mep.gov.cn☆10Sep 1, 2018Updated 7 years ago
- 🏀 Python3 网络爬虫实战(部分含详细教程)猫眼 腾讯视频 豆瓣 研招网 微博 笔趣阁小说 百度热点 B站 CSDN 网易云阅读 阿里文学 百度股票 今日头条 微信公众号 网易云音乐 拉勾 有道 unsplash 实习僧 汽车之家 英雄联盟盒子 大众点评 链家 LP…☆1,726Apr 19, 2021Updated 4 years ago
- 微博爬虫及配套工具箱,微博用户、话题、评论采集一网打尽。图片下载、情感分析,地理位置、关系网络、spammer 机器人识别等功能应有尽有。Docs:https://buyixiao.github.io/blog/weibo-super-spider.html 配套可视化网站…☆1,686Apr 23, 2023Updated 2 years ago
- DecryptLogin: APIs for loginning some websites by using requests.☆2,861Aug 9, 2024Updated last year
- 持续维护的新浪微博采集工具🚀🚀🚀☆4,040Aug 23, 2025Updated 6 months ago
- 🍿爬虫代理IP池(proxy pool) python🍟一个还ok的IP代理池☆256Feb 26, 2021Updated 5 years ago
- 各种爬虫(目前支持Instagram、Weibo、Twitter)Miscellaneous crawlers (currently including instagram, twitter, weibo etc.).☆33Jul 8, 2025Updated 8 months ago
- 开源微信爬虫:爬取公众号所有 文章、阅读量、点赞量和评论内容。易部署。持续维护!!!☆2,762Mar 31, 2023Updated 2 years ago
- 实战🐍多种网站、电商数据爬虫🕷。包含🕸:淘宝商品、微信公众号、大众点评、企查查、招聘网站、闲鱼、阿里任务、博客园、微博、百度贴吧、豆瓣电影、包图网、全景网、豆瓣音乐、某省药监局、搜狐新闻、机器学习文本采集、fofa资产采集、汽车之家、国家统计局、百度关键词收录数、蜘蛛…☆5,415May 22, 2024Updated last year
- 爬取大众点评中11205条厦门美食商铺信息,其中包含店名、人均消费、所属菜系、所属商圈、详细地址、口味评分、环境评分、服务评分信息。☆20Apr 21, 2020Updated 5 years ago
- Scrapy Redis with Bloom Filter,support redis sentinel and cluster☆25Mar 31, 2023Updated 2 years ago
- 新浪微博爬虫,用python爬取新浪微博数据,并下载微博图片和微博视频☆4,372Feb 28, 2026Updated last week
- Computer network related concepts and tools☆11Mar 21, 2021Updated 4 years ago
- python_daily,爬虫日常篇☆10Jul 6, 2022Updated 3 years ago
- 《极简便签》在任何设备上快速记录与分享纯文本,支持密码保护、有密只读与无密只读。 轻量 · 快速 · 安全 !☆12Aug 12, 2025Updated 6 months ago
- 通用文章提取,正文,标题,时间,作者,图片,音视频,联系方式等☆23Mar 19, 2023Updated 2 years ago
- 《Python3 网络爬虫宝典》随书配套代码☆21Aug 29, 2020Updated 5 years ago
- SoulAPP数据分析☆10Aug 24, 2019Updated 6 years ago
- This is a web-based utility that uses OpenAI API to explain Linux commands in detail, helping beginners understand and learn how to use L…☆11Apr 6, 2023Updated 2 years ago
- Python ProxyPool for web spider☆23,190Nov 20, 2025Updated 3 months ago
- This work shows the viability of automatically generated attack graphs that are used for adversary behavior execution in industrial contr…☆12Jun 3, 2021Updated 4 years ago
- 中国知网文献爬虫☆11Jul 30, 2017Updated 8 years ago
- python爬虫☆1,129Dec 31, 2023Updated 2 years ago
- 一个以前的项目 收集了20W新浪微博用户的数据 可以用于数据分析☆28Nov 22, 2015Updated 10 years ago
- B站用户爬虫 好耶~是爬虫☆146Dec 8, 2022Updated 3 years ago
- js逆向和爬虫☆329Jan 12, 2023Updated 3 years ago
- English or Chinses GPT2Dialog model from GPT2-chitchat☆12Feb 23, 2020Updated 6 years ago
- 中国特色互联网词汇☆12Aug 7, 2020Updated 5 years ago