Alternatives and similar repositories for crawler

Users that are interested in crawler are comparing it to the libraries listed below

• dangsh / hive
  lots of spider (很多爬虫）
  ☆117Updated 6 years ago
• Germey / TouTiao
  TouTiao Spider Demo
  ☆177Updated 6 years ago
• wangy8961 / python3-concurrency-pics-02
  爬取 www.mzitu.com 全站图片，截至目前共5162个图集，16.5万多张美女图片，使用 asyncio 和 aiohttp 实现的异步版本只需要不到2小时就能爬取完成。按日期创建图集目录，保存更合理。控制台只显示下载的进度条，详细信息保存在日志文件中。支持异常处…
  ☆333Updated 6 years ago
• chenjiandongx / 51job-spider
  🔎 前程无忧 Python 招聘岗位信息爬取和分析
  ☆423Updated 7 years ago
• lawlite19 / PythonCrawler-Scrapy-Mysql-File-Template
  scrapy爬虫框架模板，将数据保存到Mysql数据库或者文件中。
  ☆215Updated 8 years ago
• lihansunbai / Fang_Scrapy
  这是一个作者毕业设计的爬虫，爬取58同城、赶集网、链家、安居客、我爱我家网站的房价交易数据。
  ☆330Updated 9 years ago
• Jaysong2012 / tutorial
  Scrapy爬虫实战系列，从零开始爬取腾讯百度淘宝知乎各大网站内容 \n 12306刷票脚本系列
  ☆82Updated 6 years ago
• speng4096 / PyLoom
  Python爬虫框架，内置微博、自如、豆瓣图书、拉勾网、拼多多等爬虫
  ☆250Updated 6 years ago
• Germey / TaobaoProduct
  Selenium Demo of Taobao Product
  ☆81Updated 7 years ago
• Qutan / Spider
  社交数据爬虫
  ☆218Updated 8 years ago
• qiyeboy / spider_smooc
  爬取慕课网视频
  ☆364Updated 8 years ago
• yokonsan / dingdian
  Python爬虫和Flask实现小说网站
  ☆125Updated 6 years ago
• Kevinsss / csdn-spider
  爬取CSDN上的博客文章
  ☆124Updated 10 years ago
• simapple / spider
  test
  ☆163Updated 2 years ago
• JustForFunnnn / webspider
  A website of IT position data & analysis, helps you to get a better understanding of the requirements and trends of the IT job market
  ☆370Updated 2 years ago
• Germey / MaoYan
  MaoYan Top100 Spider
  ☆61Updated 5 years ago
• jin10086 / pachong
  一些爬虫的代码
  ☆147Updated 7 years ago
• happyjared / python-learning
  Those years of learning Python - 这些年学习的Python
  ☆116Updated 5 years ago
• cuanboy / scrapyTest
  SCRAPY爬虫实验，主要是一些简单的栗子，让你快速了解scrapy玩法！
  ☆135Updated 7 years ago
• changetjut / ProxySpider
  爬取http://www.xicidaili.com/上代理IP，并验证代理可用性
  ☆142Updated 6 years ago
• FWC1994 / Python-Crawler
  python多线程爬虫爬取电影天堂资源
  ☆93Updated 5 years ago
• thsheep / mzitu_scrapy
  基于Scrapy的www.mzitu.com的全站图片下载脚本
  ☆71Updated 6 years ago
• xiaosimao / AiSpider
  爬虫轻型框架
  ☆230Updated 7 years ago
• RitterHou / music-163
  爬取网易云音乐所有歌曲的评论数
  ☆348Updated 8 years ago
• Germey / Weibo
  Weibo Spider
  ☆49Updated 8 years ago
• cuanboy / ScrapyProject
  开始Scrapy实战如：存数据库、下载文件、爬京东、淘宝、Anti-Anti-Spider……
  ☆423Updated 7 years ago
• monkey-soft / Scrapy_IPProxyPool
  免费 IP 代理池。Scrapy 爬虫框架插件
  ☆103Updated 6 years ago
• lb2281075105 / Python-Spider
  豆瓣电影top250、斗鱼爬取json数据以及爬取美女图片、淘宝、有缘、CrawlSpider爬取红娘网相亲人的部分基本信息以及红娘网分布式爬取和存储redis、爬虫小demo、Selenium、爬取多点、django开发接口、爬取有缘网信息、模拟知乎登录、模拟github…
  ☆786Updated 3 years ago
• Python3WebSpider / TaobaoProduct
  Taobao Product Spider by Selenium
  ☆197Updated 5 years ago
• AlexTan-b-z / ZhihuSpider
  知乎分布式爬虫（Scrapy、Redis）
  ☆168Updated 7 years ago