Alternatives and similar repositories for GithubCrawler:

Users that are interested in GithubCrawler are comparing it to the libraries listed below

• ioiogoo / scrapy-monitor
  scrapy-monitor，实现爬虫可视化，监控实时状态
  ☆109Updated 8 years ago
• Yanxueshan / Scrapy-Redis-Zhihu
  基于scrapy-redis实现分布式爬虫，爬取知乎所有问题及对应的回答，集成selenium模拟登录、英文验证码及倒立文字验证码识别、随机生成User-Agent、IP代理、处理302重定向问题等等
  ☆56Updated 5 years ago
• haibincoder / ToutiaoCrawler
  今日头条爬虫，主要爬取关键词搜索结果，包含编辑距离算法、奇异值分解、k-means聚类。
  ☆71Updated 5 years ago
• boss-mao / scrapy_enterprise_architecture
  python scrapy 企业级分布式爬虫开发架构模板
  ☆93Updated 6 years ago
• smilemilk1992 / scrapy_redis_mongodb
  基于Python+scrapy+redis的分布式爬虫实现框架
  ☆59Updated 5 years ago
• striver-ing / distributed-spider
  通用新闻类网站分布式爬虫
  ☆74Updated 6 years ago
• sml2h3 / openlawClawer
  openlaw数据爬虫v1.1 更新日期:2017.12.16 解决新版openlaw多种加密问题。引入celery轻松异步分布式，爬取速度再次翻倍！！
  ☆58Updated 5 years ago
• Python3WebSpider / ScrapyUniversal
  Scrapy Universal Spider
  ☆56Updated 7 years ago
• littlepai / Unofficial-Zhihu-API
  深度学习模型自动识别验证码，python爬虫库自动管理会话，通过简单易用的API，实现知乎数据的爬取
  ☆77Updated 2 years ago
• longxiaofei / dianping
  大众点评商家评论爬虫
  ☆47Updated 5 years ago
• Germey / Weibo
  Weibo Spider
  ☆48Updated 7 years ago
• Johnson0722 / News_scrapy_redis
  ☆31Updated 6 years ago
• xiaosimao / wx_code
  公众号文章代码
  ☆62Updated 6 years ago
• 1414044032 / Sina_Spider
  新浪爬虫，基于Python+Selenium。模拟登陆后保存cookie，实现登录状态的保存。可以通过输入关键词来爬取到关键词相关的热门微博。
  ☆30Updated 6 years ago
• dongrunhua / ScrapyUniversal
  基于Scrapy的通用爬虫框架
  ☆25Updated 6 years ago
• Jaysong2012 / tutorial
  Scrapy爬虫实战系列，从零开始爬取腾讯百度淘宝知乎各大网站内容 \n 12306刷票脚本系列
  ☆82Updated 5 years ago
• dangsh / hive
  lots of spider (很多爬虫）
  ☆118Updated 6 years ago
• LongYosef / corpredit
  国家企业信用信息官网爬虫，未获取全部企业信息，重点在设计反爬思路
  ☆67Updated 6 years ago
• OSinoooO / MeituanSpider
  美团爬虫，基于scrapy_redis
  ☆22Updated 5 years ago
• guapier / shixin
  http://zxgk.court.gov.cn/zhzxgk/ 失信被执行人查询，被执行人查询，限制消费，终本案件查询，shixin
  ☆14Updated 4 years ago
• zhangslob / Taobao_duoshou
  使用Scrapy采集淘宝数据，Flask展示
  ☆65Updated 6 years ago
• tomoncle / Python-notes
  Python related technologies used in work: crawler, data analysis, timing tasks, RPC, page parsing, decorator, built-in functions, Python …
  ☆102Updated 5 years ago
• HegemonyTao / crawlProject
  今日头条 、淘宝 、微博 、斗鱼 、抖音 、哔哩哔哩 、有道翻译、steam网站以及网易云音乐爬取
  ☆58Updated 4 years ago
• runtangr / taoyoulue_spider
  基于mongodb存储，redis缓存，celery 实现的分布式爬虫。
  ☆13Updated 2 years ago
• wqh0109663 / JobSpiders
  scrapy框架爬取51job(scrapy.Spider)，智联招聘(扒接口)，拉勾网(CrawlSpider)
  ☆198Updated last year
• zhanghe06 / news_spider
  新闻抓取（微信、微博、头条...）
  ☆221Updated 2 years ago
• wangy8961 / python3-concurrency-aqi
  并发爬取全国城市空气质量日报数据，数据来源： http://datacenter.mep.gov.cn
  ☆10Updated 6 years ago
• pujinxiao / Lagou_spider
  拉勾网全站职位抓取CrawlSpider
  ☆27Updated 7 years ago
• MgArcher / jiasule
  最新破解国家企业信用信息公示系统加速乐加密cookies
  ☆42Updated last year
• mindawei / p2p
  一个基于 python 的 flask 框架的资讯网站， http://119.29.100.53:8086/
  ☆32Updated 6 years ago