Alternatives and similar repositories for crawler

Users that are interested in crawler are comparing it to the libraries listed below

• luyishisi / Nyspider
  各种爬虫---大众点评,安居客，58，人人贷，拍拍贷, IT桔子,拉勾网，豆瓣,搜房网,ASO100,气象数据,猫眼电影,链家,PM25.in...
  ☆197Updated 9 years ago
• Germey / CookiesPool
  CookiesPool Based on Redis
  ☆152Updated 8 years ago
• changetjut / ProxySpider
  爬取http://www.xicidaili.com/上代理IP，并验证代理可用性
  ☆141Updated 6 years ago
• JustForFunnnn / webspider
  A website of IT position data & analysis, helps you to get a better understanding of the requirements and trends of the IT job market
  ☆367Updated 2 years ago
• tmliang / Taobao_Spider
  基于Scrapy的Python3分布式淘宝爬虫
  ☆192Updated 4 years ago
• simapple / spider
  test
  ☆160Updated 3 years ago
• AlexTan-b-z / ZhihuSpider
  知乎分布式爬虫（Scrapy、Redis）
  ☆168Updated 7 years ago
• xiaosimao / AiSpider
  爬虫轻型框架
  ☆231Updated 7 years ago
• Qutan / Spider
  社交数据爬虫
  ☆221Updated 9 years ago
• ioiogoo / scrapy-monitor
  scrapy-monitor，实现爬虫可视化，监控实时状态
  ☆109Updated 9 years ago
• liuslnlp / ProxyPool
  跨语言IP代理池，Python实现。
  ☆355Updated 7 years ago
• dangsh / hive
  lots of spider (很多爬虫）
  ☆116Updated 7 years ago
• jackgitgz / CnblogsSpider
  用scrapy采集cnblogs列表页爬虫
  ☆274Updated 10 years ago
• zhangslob / Taobao_duoshou
  使用Scrapy采集淘宝数据，Flask展示
  ☆67Updated 7 years ago
• imflyn / decoration-design-crawler
  土巴兔和谷居装修网站爬虫
  ☆109Updated 6 years ago
• Shu-Ji / baidu-music-spider
  百度mp3全站爬虫
  ☆129Updated 12 years ago
• brantou / crawler
  爬虫, http代理, 模拟登陆!
  ☆108Updated 8 years ago
• shisiying / tc_zufang
  使用scrapy,redis, mongodb,django实现的一个分布式网络爬虫,底层存储mongodb,分布式使用redis实现,使用django可视化爬虫
  ☆282Updated 7 years ago
• facert / scrapy_helper
  Dynamic configurable crawl (动态可配置化爬虫)
  ☆86Updated 8 years ago
• ZKeeer / IPProxy
  爬虫所需要的IP代理，抓取九个网站的代理IP检测/清洗/入库/更新，添加调用接口
  ☆143Updated 8 years ago
• thsheep / mzitu_scrapy
  基于Scrapy的www.mzitu.com的全站图片下载脚本
  ☆71Updated 7 years ago
• taizilongxu / scrapy_jingdong
  用scrapy写的京东爬虫
  ☆452Updated 11 years ago
• Rockyzsu / getProxy
  爬虫获取http://www.xicidaili.com/ 代理服务器
  ☆82Updated 8 years ago
• pakoo / tbcrawler
  淘宝天猫 商品 爬虫
  ☆253Updated 12 years ago
• szcf-weiya / SinaSpider
  动态IP解决新浪的反爬虫机制，快速抓取内容。
  ☆142Updated 8 years ago
• lihansunbai / Fang_Scrapy
  这是一个作者毕业设计的爬虫，爬取58同城、赶集网、链家、安居客、我爱我家网站的房价交易数据。
  ☆329Updated 9 years ago
• lawlite19 / PythonCrawler-Scrapy-Mysql-File-Template
  scrapy爬虫框架模板，将数据保存到Mysql数据库或者文件中。
  ☆217Updated 8 years ago
• jin10086 / pachong
  一些爬虫的代码
  ☆147Updated 7 years ago
• LiuXingMing / WeiboSliderCode
  m.weibo.cn登录，四宫格图形解锁验证码破解
  ☆107Updated 8 years ago
• qiyeboy / baidulogin
  百度登录加密协议分析，以及登录实现
  ☆135Updated 9 years ago