Alternatives and similar repositories for awesome_crawl:

Users that are interested in awesome_crawl are comparing it to the libraries listed below

• zkqiang / zhihu-login
  知乎模拟登录，支持提取验证码和保存 Cookies
  ☆361Updated 2 years ago
• zhanghe06 / news_spider
  新闻抓取（微信、微博、头条...）
  ☆225Updated 2 years ago
• dangsh / hive
  lots of spider (很多爬虫）
  ☆118Updated 6 years ago
• RitterHou / music-163
  爬取网易云音乐所有歌曲的评论数
  ☆349Updated 8 years ago
• wqh0109663 / JobSpiders
  scrapy框架爬取51job(scrapy.Spider)，智联招聘(扒接口)，拉勾网(CrawlSpider)
  ☆200Updated last year
• MaLei666 / Spider
  爬虫实例：微博、b站、csdn、淘宝、今日头条、知乎、豆瓣、知乎APP、大众点评
  ☆532Updated 5 years ago
• kong36088 / ZhihuSpider
  多线程知乎用户爬虫，基于python3
  ☆248Updated last year
• AlexTan-b-z / ZhihuSpider
  知乎分布式爬虫（Scrapy、Redis）
  ☆168Updated 7 years ago
• wangy8961 / python3-concurrency-pics-02
  爬取 www.mzitu.com 全站图片，截至目前共5162个图集，16.5万多张美女图片，使用 asyncio 和 aiohttp 实现的异步版本只需要不到2小时就能爬取完成。按日期创建图集目录，保存更合理。控制台只显示下载的进度条，详细信息保存在日志文件中。支持异常处…
  ☆330Updated 5 years ago
• tmliang / Taobao_Spider
  基于Scrapy的Python3分布式淘宝爬虫
  ☆192Updated 4 years ago
• speng4096 / PyLoom
  Python爬虫框架，内置微博、自如、豆瓣图书、拉勾网、拼多多等爬虫
  ☆250Updated 6 years ago
• Python3WebSpider / Weibo
  Weibo Spider Using Scrapy
  ☆137Updated 7 years ago
• xiaosimao / AiSpider
  爬虫轻型框架
  ☆231Updated 6 years ago
• Yanxueshan / Scrapy-Redis-Zhihu
  基于scrapy-redis实现分布式爬虫，爬取知乎所有问题及对应的回答，集成selenium模拟登录、英文验证码及倒立文字验证码识别、随机生成User-Agent、IP代理、处理302重定向问题等等
  ☆56Updated 6 years ago
• Germey / CookiesPool
  CookiesPool Based on Redis
  ☆152Updated 7 years ago
• starFalll / Spider
  新浪微博爬虫(Sina weibo spider)，百度搜索结果 爬虫
  ☆194Updated last year
• Northxw / Python3_WebSpider
  Python3 网络爬虫实践集合。涉及多类型验证码识别、多类型模拟登陆、多类型反反爬措施、APP数据抓取、Scrapy框架、分布式爬虫等。
  ☆550Updated 3 years ago
• Qutan / Spider
  社交数据爬虫
  ☆216Updated 8 years ago
• Germey / Zhihu
  Zhihu User Spider
  ☆133Updated 6 years ago
• taizilongxu / scrapy_jingdong
  用scrapy写的京东爬虫
  ☆446Updated 10 years ago
• keejo125 / web_scraping_and_data_analysis
  网络爬虫和数据分析，当当、豆瓣、知乎、猫眼、微信公众号、联想官网、今日头条爬虫
  ☆122Updated 5 years ago
• lihansunbai / Fang_Scrapy
  这是一个作者毕业设计的爬虫，爬取58同城、赶集网、链家、安居客、我爱我家网站的房价交易数据。
  ☆328Updated 9 years ago
• 15920036578 / JD_Spider
  京东爬虫（大量注释，对刚入门爬虫者极度友好）
  ☆71Updated 6 years ago
• thsheep / mzitu_scrapy
  基于Scrapy的www.mzitu.com的全站图片下载脚本
  ☆71Updated 6 years ago
• LMFrank / CrawlerProject
  爬虫项目：链家网（普通/scrapy）、虎扑、维基百科、百度地图api、房天下（分布式爬虫）、微信公众号（代理池爬取）
  ☆211Updated 2 years ago
• Python3Spiders / LianJiaSpider
  链家网爬虫
  ☆80Updated 5 years ago
• Hopetree / Jobs-search
  招聘网站爬虫合集，不定期更新分支
  ☆139Updated 7 years ago
• chenjiandongx / 51job-spider
  🔎 前程无忧 Python 招聘岗位信息爬取和分析
  ☆425Updated 6 years ago
• zhangslob / docs
  《数据采集从入门到放弃》源码。内容简介：爬虫介绍、就业情况、爬虫工程师面试题 ；HTTP协议介绍； Requests使用 ；解析器Xpath介绍； MongoDB与MySQL； 多线程爬虫； Scrapy介绍 ；Scrapy-redis介绍； 使用docker部署； 使用n…
  ☆138Updated 5 years ago
• pakoo / tbcrawler
  淘宝天猫 商品 爬虫
  ☆244Updated 11 years ago