Alternatives and similar repositories for awesome_crawl

Users that are interested in awesome_crawl are comparing it to the libraries listed below

• dangsh / hive
  lots of spider (很多爬虫）
  ☆116Updated 7 years ago
• zhanghe06 / news_spider
  新闻抓取（微信、微博、头条...）
  ☆225Updated 3 years ago
• MaLei666 / Spider
  爬虫实例：微博、b站、csdn、淘宝、今日头条、知乎、豆瓣、知乎APP、大众点评
  ☆540Updated 6 years ago
• xiaosimao / AiSpider
  爬虫轻型框架
  ☆231Updated 7 years ago
• Northxw / Dianping
  大众点评店铺信息爬虫
  ☆285Updated 3 years ago
• happyjared / python-learning
  Those years of learning Python - 这些年学习的Python
  ☆116Updated 6 years ago
• AlexTan-b-z / ZhihuSpider
  知乎分布式爬虫（Scrapy、Redis）
  ☆168Updated 7 years ago
• wangy8961 / python3-concurrency-pics-02
  爬取 www.mzitu.com 全站图片，截至目前共5162个图集，16.5万多张美女图片，使用 asyncio 和 aiohttp 实现的异步版本只需要不到2小时就能爬取完成。按日期创建图集目录，保存更合理。控制台只显示下载的进度条，详细信息保存在日志文件中。支持异常处…
  ☆334Updated 6 years ago
• zkqiang / zhihu-login
  知乎模拟登录，支持提取验证码和保存 Cookies
  ☆359Updated 3 years ago
• Germey / Weibo
  Weibo Spider
  ☆48Updated 8 years ago
• TM0831 / Spiders
  各种大小爬虫集合
  ☆239Updated 5 years ago
• starFalll / Spider
  新浪微博爬虫(Sina weibo spider)，百度搜索结果 爬虫
  ☆197Updated 2 years ago
• speng4096 / PyLoom
  Python爬虫框架，内置微博、自如、豆瓣图书、拉勾网、拼多多等爬虫
  ☆249Updated 6 years ago
• shisiying / tc_zufang
  使用scrapy,redis, mongodb,django实现的一个分布式网络爬虫,底层存储mongodb,分布式使用redis实现,使用django可视化爬虫
  ☆282Updated 7 years ago
• tmliang / Taobao_Spider
  基于Scrapy的Python3分布式淘宝爬虫
  ☆192Updated 4 years ago
• RitterHou / music-163
  爬取网易云音乐所有歌曲的评论数
  ☆346Updated 8 years ago
• kong36088 / ZhihuSpider
  多线程知乎用户爬虫，基于python3
  ☆249Updated 2 years ago
• Yanxueshan / Scrapy-Redis-Zhihu
  基于scrapy-redis实现分布式爬虫，爬取知乎所有问题及对应的回答，集成selenium模拟登录、英文验证码及倒立文字验证码识别、随机生成User-Agent、IP代理、处理302重定向问题等等
  ☆61Updated 6 years ago
• Python3WebSpider / Weibo
  Weibo Spider Using Scrapy
  ☆138Updated 8 years ago
• Germey / TouTiao
  TouTiao Spider Demo
  ☆177Updated 6 years ago
• lb2281075105 / Python-Spider
  豆瓣电影top250、斗鱼爬取json数据以及爬取美女图片、淘宝、有缘、CrawlSpider爬取红娘网相亲人的部分基本信息以及红娘网分布式爬取和存储redis、爬虫小demo、Selenium、爬取多点、django开发接口、爬取有缘网信息、模拟知乎登录、模拟github…
  ☆784Updated 3 years ago
• lihansunbai / Fang_Scrapy
  这是一个作者毕业设计的爬虫，爬取58同城、赶集网、链家、安居客、我爱我家网站的房价交易数据。
  ☆329Updated 9 years ago
• Python3WebSpider / TaobaoProduct
  Taobao Product Spider by Selenium
  ☆200Updated 5 years ago
• Qutan / Spider
  社交数据爬虫
  ☆221Updated 9 years ago
• zyingzhou / music163-spiders
  网易云音乐歌曲评论爬虫
  ☆274Updated 6 years ago
• jin10086 / pachong
  一些爬虫的代码
  ☆147Updated 7 years ago
• ioiogoo / scrapy-monitor
  scrapy-monitor，实现爬虫可视化，监控实时状态
  ☆109Updated 9 years ago
• wqh0109663 / JobSpiders
  scrapy框架爬取51job(scrapy.Spider)，智联招聘(扒接口)，拉勾网(CrawlSpider)
  ☆200Updated 2 years ago
• cuanboy / ScrapyProject
  开始Scrapy实战如：存数据库、下载文件、爬京东、淘宝、Anti-Anti-Spider……
  ☆424Updated 7 years ago
• chenjiandongx / 51job-spider
  🔎 前程无忧 Python 招聘岗位信息爬取和分析
  ☆424Updated 7 years ago