Alternatives and similar repositories for awesome_crawl

Users that are interested in awesome_crawl are comparing it to the libraries listed below

• zkqiang / zhihu-login
  知乎模拟登录，支持提取验证码和保存 Cookies
  ☆362Updated 3 years ago
• wqh0109663 / JobSpiders
  scrapy框架爬取51job(scrapy.Spider)，智联招聘(扒接口)，拉勾网(CrawlSpider)
  ☆200Updated 2 years ago
• zyingzhou / music163-spiders
  网易云音乐歌曲评论爬虫
  ☆271Updated 6 years ago
• happyjared / python-learning
  Those years of learning Python - 这些年学习的Python
  ☆116Updated 5 years ago
• dangsh / hive
  lots of spider (很多爬虫）
  ☆117Updated 6 years ago
• MaLei666 / Spider
  爬虫实例：微博、b站、csdn、淘宝、今日头条、知乎、豆瓣、知乎APP、大众点评
  ☆540Updated 6 years ago
• Northxw / Dianping
  大众点评店铺信息爬虫
  ☆284Updated 3 years ago
• speng4096 / PyLoom
  Python爬虫框架，内置微博、自如、豆瓣图书、拉勾网、拼多多等爬虫
  ☆250Updated 6 years ago
• lb2281075105 / Python-Spider
  豆瓣电影top250、斗鱼爬取json数据以及爬取美女图片、淘宝、有缘、CrawlSpider爬取红娘网相亲人的部分基本信息以及红娘网分布式爬取和存储redis、爬虫小demo、Selenium、爬取多点、django开发接口、爬取有缘网信息、模拟知乎登录、模拟github…
  ☆786Updated 3 years ago
• wangy8961 / python3-concurrency-pics-02
  爬取 www.mzitu.com 全站图片，截至目前共5162个图集，16.5万多张美女图片，使用 asyncio 和 aiohttp 实现的异步版本只需要不到2小时就能爬取完成。按日期创建图集目录，保存更合理。控制台只显示下载的进度条，详细信息保存在日志文件中。支持异常处…
  ☆333Updated 6 years ago
• zhanghe06 / news_spider
  新闻抓取（微信、微博、头条...）
  ☆225Updated 2 years ago
• tmliang / Taobao_Spider
  基于Scrapy的Python3分布式淘宝爬虫
  ☆193Updated 4 years ago
• Python3WebSpider / Weibo
  Weibo Spider Using Scrapy
  ☆137Updated 7 years ago
• Yanxueshan / Scrapy-Redis-Zhihu
  基于scrapy-redis实现分布式爬虫，爬取知乎所有问题及对应的回答，集成selenium模拟登录、英文验证码及倒立文字验证码识别、随机生成User-Agent、IP代理、处理302重定向问题等等
  ☆58Updated 6 years ago
• chenjiandongx / 51job-spider
  🔎 前程无忧 Python 招聘岗位信息爬取和分析
  ☆425Updated 7 years ago
• xiaosimao / AiSpider
  爬虫轻型框架
  ☆230Updated 7 years ago
• TM0831 / Spiders
  各种大小爬虫集合
  ☆240Updated 5 years ago
• AlexTan-b-z / ZhihuSpider
  知乎分布式爬虫（Scrapy、Redis）
  ☆169Updated 7 years ago
• shisiying / tc_zufang
  使用scrapy,redis, mongodb,django实现的一个分布式网络爬虫,底层存储mongodb,分布式使用redis实现,使用django可视化爬虫
  ☆284Updated 7 years ago
• lihansunbai / Fang_Scrapy
  这是一个作者毕业设计的爬虫，爬取58同城、赶集网、链家、安居客、我爱我家网站的房价交易数据。
  ☆331Updated 9 years ago
• RitterHou / music-163
  爬取网易云音乐所有歌曲的评论数
  ☆347Updated 8 years ago
• 15920036578 / JD_Spider
  京东爬虫（大量注释，对刚入门爬虫者极度友好）
  ☆71Updated 6 years ago
• Germey / Weibo
  Weibo Spider
  ☆49Updated 8 years ago
• yyyy777 / crawler
  python爬虫练习
  ☆112Updated 6 years ago
• starFalll / Spider
  新浪微博爬虫(Sina weibo spider)，百度搜索结果 爬虫
  ☆195Updated 2 years ago
• cuanboy / ScrapyProject
  开始Scrapy实战如：存数据库、下载文件、爬京东、淘宝、Anti-Anti-Spider……
  ☆423Updated 7 years ago
• kong36088 / ZhihuSpider
  多线程知乎用户爬虫，基于python3
  ☆250Updated 2 years ago
• Hopetree / E-commerce-crawlers
  电商网站爬虫合集，淘宝京东亚马逊等
  ☆556Updated 6 years ago
• monkey-soft / Scrapy_IPProxyPool
  免费 IP 代理池。Scrapy 爬虫框架插件
  ☆103Updated 7 years ago
• Northxw / Meituan
  美团（美食）店铺信息爬虫
  ☆115Updated 6 years ago