Alternatives and similar repositories for GithubCrawler

Users that are interested in GithubCrawler are comparing it to the libraries listed below

• haibincoder / ToutiaoCrawler
  今日头条爬虫，主要爬取关键词搜索结果，包含编辑距离算法、奇异值分解、k-means聚类。
  ☆72Updated 5 years ago
• smilemilk1992 / scrapy_redis_mongodb
  基于Python+scrapy+redis的分布式爬虫实现框架
  ☆61Updated 5 years ago
• ioiogoo / scrapy-monitor
  scrapy-monitor，实现爬虫可视化，监控实时状态
  ☆110Updated 8 years ago
• brantou / crawler
  爬虫, http代理, 模拟登陆!
  ☆108Updated 7 years ago
• Mocha-Pudding / Scrapy-Redis_Demos
  Python分布式爬虫学习笔记，各种Demo同步
  ☆13Updated 5 years ago
• dangsh / hive
  lots of spider (很多爬虫）
  ☆118Updated 6 years ago
• starFalll / Spider
  新浪微博爬虫(Sina weibo spider)，百度搜索结果 爬虫
  ☆195Updated last year
• boss-mao / scrapy_enterprise_architecture
  python scrapy 企业级分布式爬虫开发架构模板
  ☆91Updated 7 years ago
• striver-ing / distributed-spider
  通用新闻类网站分布式爬虫
  ☆77Updated 6 years ago
• xiaosimao / wx_code
  公众号文章代码
  ☆62Updated 6 years ago
• pujinxiao / Lagou_spider
  拉勾网全站职位抓取CrawlSpider
  ☆27Updated 8 years ago
• Johnson0722 / News_scrapy_redis
  ☆32Updated 6 years ago
• Germey / Weibo
  Weibo Spider
  ☆49Updated 8 years ago
• littlepai / Unofficial-Zhihu-API
  深度学习模型自动识别验证码，python爬虫库自动管理会话，通过简单易用的API，实现知乎数据的爬取
  ☆77Updated 2 years ago
• Wangler2333 / bilibili_video_stat
  爬取b站视频信息，供大数据分析用户喜好。使用scrapy-redis分布式，在16核服务器上实现抓取2500万条/天。可长期部署抓取，实现视频趋势分析
  ☆65Updated 7 years ago
• dongrunhua / ScrapyUniversal
  基于Scrapy的通用爬虫框架
  ☆25Updated 6 years ago
• wangy8961 / python3-concurrency-aqi
  并发爬取全国城市空气质量日报数据，数据来源： http://datacenter.mep.gov.cn
  ☆10Updated 6 years ago
• realzhengyiming / Spider_of_keywordRank
  搜索引擎关键词排位爬虫，包括百度，搜狗，360的搜索引擎关键词排位爬虫，关键词从百度热词中取得，排位分别从三个搜索引擎中抓取。
  ☆19Updated 5 years ago
• mindawei / p2p
  一个基于 python 的 flask 框架的资讯网站， http://119.29.100.53:8086/
  ☆33Updated 6 years ago
• zhanghe06 / news_spider
  新闻抓取（微信、微博、头条...）
  ☆225Updated 2 years ago
• Yanxueshan / Scrapy-Redis-Zhihu
  基于scrapy-redis实现分布式爬虫，爬取知乎所有问题及对应的回答，集成selenium模拟登录、英文验证码及倒立文字验证码识别、随机生成User-Agent、IP代理、处理302重定向问题等等
  ☆57Updated 6 years ago
• monkey-soft / Scrapy_IPProxyPool
  免费 IP 代理池。Scrapy 爬虫框架插件
  ☆103Updated 6 years ago
• MgArcher / jiasule
  最新破解国家企业信用信息公示系统加速乐加密cookies
  ☆41Updated 2 years ago
• AlexTan-b-z / ZhihuSpider
  知乎分布式爬虫（Scrapy、Redis）
  ☆169Updated 7 years ago
• zhangslob / Taobao_duoshou
  使用Scrapy采集淘宝数据，Flask展示
  ☆66Updated 7 years ago
• hahaha108 / MyNews
  基于scrapy-redis的分布式新闻爬虫，可同时获取腾讯、网易、搜狐、凤凰网、新浪、东方财富、人民网等各大平台新闻资讯
  ☆45Updated 7 years ago
• Python3WebSpider / ScrapyUniversal
  Scrapy Universal Spider
  ☆56Updated 7 years ago
• facert / scrapy_helper
  Dynamic configurable crawl (动态可配置化爬虫)
  ☆87Updated 7 years ago
• Germey / TaobaoProduct
  Selenium Demo of Taobao Product
  ☆81Updated 6 years ago
• wqh0109663 / JobSpiders
  scrapy框架爬取51job(scrapy.Spider)，智联招聘(扒接口)，拉勾网(CrawlSpider)
  ☆200Updated last year