Alternatives and similar repositories for crawler

Users that are interested in crawler are comparing it to the libraries listed below

• luyishisi / Nyspider
  各种爬虫---大众点评,安居客，58，人人贷，拍拍贷, IT桔子,拉勾网，豆瓣,搜房网,ASO100,气象数据,猫眼电影,链家,PM25.in...
  ☆198Updated 9 years ago
• ioiogoo / scrapy-monitor
  scrapy-monitor，实现爬虫可视化，监控实时状态
  ☆109Updated 9 years ago
• Germey / CookiesPool
  CookiesPool Based on Redis
  ☆152Updated 8 years ago
• qiyeboy / baidulogin
  百度登录加密协议分析，以及登录实现
  ☆135Updated 9 years ago
• AlexTan-b-z / ZhihuSpider
  知乎分布式爬虫（Scrapy、Redis）
  ☆168Updated 7 years ago
• tmliang / Taobao_Spider
  基于Scrapy的Python3分布式淘宝爬虫
  ☆192Updated 4 years ago
• liuslnlp / ProxyPool
  跨语言IP代理池，Python实现。
  ☆355Updated 7 years ago
• xiaosimao / AiSpider
  爬虫轻型框架
  ☆231Updated 7 years ago
• imflyn / decoration-design-crawler
  土巴兔和谷居装修网站爬虫
  ☆109Updated 6 years ago
• simapple / spider
  test
  ☆160Updated 2 years ago
• changetjut / ProxySpider
  爬取http://www.xicidaili.com/上代理IP，并验证代理可用性
  ☆141Updated 6 years ago
• brantou / crawler
  爬虫, http代理, 模拟登陆!
  ☆108Updated 8 years ago
• jackgitgz / CnblogsSpider
  用scrapy采集cnblogs列表页爬虫
  ☆274Updated 10 years ago
• dangsh / hive
  lots of spider (很多爬虫）
  ☆116Updated 7 years ago
• CoolWell / wechat_spider
  基于搜狗微信入口的微信爬虫程序。 由基于phantomjs的python实现。 使用了收费的动态代理。 采集包括文章文本、阅读数、点赞数、评论以及评论赞数。 效率：500公众号/小时。 根据采集的公众号划分为多线程，可以实现并行采集。
  ☆232Updated 7 years ago
• shisiying / tc_zufang
  使用scrapy,redis, mongodb,django实现的一个分布式网络爬虫,底层存储mongodb,分布式使用redis实现,使用django可视化爬虫
  ☆282Updated 7 years ago
• zhangslob / Taobao_duoshou
  使用Scrapy采集淘宝数据，Flask展示
  ☆67Updated 7 years ago
• JustForFunnnn / webspider
  A website of IT position data & analysis, helps you to get a better understanding of the requirements and trends of the IT job market
  ☆367Updated 2 years ago
• wanghuafeng / e-business
  电商爬虫系统：京东，当当，一号店，国美爬虫（代理使用）；论坛、新闻、豆瓣爬虫
  ☆104Updated 7 years ago
• Jaysong2012 / tutorial
  Scrapy爬虫实战系列，从零开始爬取腾讯百度淘宝知乎各大网站内容 \n 12306刷票脚本系列
  ☆82Updated 6 years ago
• LiuXingMing / Scrapy_Redis_Bloomfilter
  基于Redis的Bloomfilter去重，并将其扩展到Scrapy框架。
  ☆347Updated 2 years ago
• LiuXingMing / WeiboSliderCode
  m.weibo.cn登录，四宫格图形解锁验证码破解
  ☆107Updated 7 years ago
• jhao104 / SSDBAdmin
  SSDB可视化界面管理工具 ssdb web manager tool
  ☆353Updated 2 years ago
• monkey-soft / Scrapy_IPProxyPool
  免费 IP 代理池。Scrapy 爬虫框架插件
  ☆104Updated 7 years ago
• zhanghe06 / news_spider
  新闻抓取（微信、微博、头条...）
  ☆225Updated 3 years ago
• Python3WebSpider / ScrapySeleniumTest
  Scrapy Selenium on Taobao Product
  ☆86Updated 8 years ago
• dequinns / ScrapydArt
  在scrapyd基础上新增权限验证、爬虫运行信息统计、界面重构、，并增加排序、筛选过滤等多个API
  ☆112Updated 7 years ago
• ZKeeer / IPProxy
  爬虫所需要的IP代理，抓取九个网站的代理IP检测/清洗/入库/更新，添加调用接口
  ☆143Updated 8 years ago
• yyyy777 / crawler
  python爬虫练习
  ☆112Updated 6 years ago
• Germey / ADSLProxyPool
  Adsl Proxy Pool
  ☆133Updated 7 years ago