Alternatives and similar repositories for crawler

Users that are interested in crawler are comparing it to the libraries listed below

• luyishisi / Nyspider
  各种爬虫---大众点评,安居客，58，人人贷，拍拍贷, IT桔子,拉勾网，豆瓣,搜房网,ASO100,气象数据,猫眼电影,链家,PM25.in...
  ☆198Updated 9 years ago
• xiaosimao / AiSpider
  爬虫轻型框架
  ☆232Updated 7 years ago
• Germey / TaobaoProduct
  Selenium Demo of Taobao Product
  ☆81Updated 7 years ago
• ioiogoo / scrapy-monitor
  scrapy-monitor，实现爬虫可视化，监控实时状态
  ☆109Updated 9 years ago
• changetjut / ProxySpider
  爬取http://www.xicidaili.com/上代理IP，并验证代理可用性
  ☆142Updated 6 years ago
• monkey-soft / Scrapy_IPProxyPool
  免费 IP 代理池。Scrapy 爬虫框架插件
  ☆104Updated 7 years ago
• lawlite19 / PythonCrawler-Scrapy-Mysql-File-Template
  scrapy爬虫框架模板，将数据保存到Mysql数据库或者文件中。
  ☆219Updated 8 years ago
• szcf-weiya / SinaSpider
  动态IP解决新浪的反爬虫机制，快速抓取内容。
  ☆143Updated 8 years ago
• simapple / spider
  test
  ☆160Updated 2 years ago
• ZKeeer / IPProxy
  爬虫所需要的IP代理，抓取九个网站的代理IP检测/清洗/入库/更新，添加调用接口
  ☆143Updated 8 years ago
• jackgitgz / CnblogsSpider
  用scrapy采集cnblogs列表页爬虫
  ☆274Updated 10 years ago
• elliotxx / zhihu-crawler-people
  A simple distributed crawler for zhihu && data analysis
  ☆194Updated 3 years ago
• jin10086 / pachong
  一些爬虫的代码
  ☆147Updated 7 years ago
• wanghuafeng / e-business
  电商爬虫系统：京东，当当，一号店，国美爬虫（代理使用）；论坛、新闻、豆瓣爬虫
  ☆104Updated 7 years ago
• Germey / TouTiao
  TouTiao Spider Demo
  ☆177Updated 6 years ago
• Jaysong2012 / tutorial
  Scrapy爬虫实战系列，从零开始爬取腾讯百度淘宝知乎各大网站内容 \n 12306刷票脚本系列
  ☆82Updated 6 years ago
• AlexTan-b-z / ZhihuSpider
  知乎分布式爬虫（Scrapy、Redis）
  ☆168Updated 7 years ago
• zhanghe06 / news_spider
  新闻抓取（微信、微博、头条...）
  ☆225Updated 3 years ago
• zhangslob / Taobao_duoshou
  使用Scrapy采集淘宝数据，Flask展示
  ☆66Updated 7 years ago
• jhao104 / SSDBAdmin
  SSDB可视化界面管理工具 ssdb web manager tool
  ☆353Updated 2 years ago
• kong36088 / ZhihuSpider
  多线程知乎用户爬虫，基于python3
  ☆250Updated 2 years ago
• dangsh / hive
  lots of spider (很多爬虫）
  ☆117Updated 7 years ago
• xiaoquantou / jd_spider
  京东爬虫，可抓取京东商品信息和评论
  ☆273Updated 8 years ago
• facert / github_search
  根据 keywords 搜索 github 上面的 repos, 并通过 web 展示
  ☆283Updated 9 years ago
• tmliang / Taobao_Spider
  基于Scrapy的Python3分布式淘宝爬虫
  ☆193Updated 4 years ago
• liuslnlp / ProxyPool
  跨语言IP代理池，Python实现。
  ☆356Updated 7 years ago
• yaochenkun / enterprise-info-spider
  一个爬取企查查网站中所有中国企业与公司基本信息的爬虫程序。
  ☆212Updated 8 years ago
• JustForFunnnn / webspider
  A website of IT position data & analysis, helps you to get a better understanding of the requirements and trends of the IT job market
  ☆367Updated 2 years ago
• Qutan / Spider
  社交数据爬虫
  ☆221Updated 9 years ago
• shisiying / tc_zufang
  使用scrapy,redis, mongodb,django实现的一个分布式网络爬虫,底层存储mongodb,分布式使用redis实现,使用django可视化爬虫
  ☆283Updated 7 years ago