Alternatives and similar repositories for crawler:

Users that are interested in crawler are comparing it to the libraries listed below

• Germey / Weibo
  Weibo Spider
  ☆49Updated 7 years ago
• dangsh / hive
  lots of spider (很多爬虫）
  ☆118Updated 6 years ago
• Germey / TaobaoProduct
  Selenium Demo of Taobao Product
  ☆81Updated 6 years ago
• qqxx6661 / scrapy-yzd
  该项目为scrapy框架脚手架，整合了自动切换agent，自动切换代理ip等中间件，可以下载后自行编写爬虫。 支持： 豆瓣电影，某东商品信息（名称价格等）。
  ☆35Updated 5 years ago
• Python3WebSpider / Jiepai
  Jiepai Pictures of Toutiao
  ☆124Updated 5 years ago
• kba977 / Scrapy_Projects
  🕷一些Scrapy爬虫的练手项目
  ☆76Updated 5 years ago
• monkey-soft / Scrapy_IPProxyPool
  免费 IP 代理池。Scrapy 爬虫框架插件
  ☆102Updated 6 years ago
• xiaosimao / wx_code
  公众号文章代码
  ☆62Updated 6 years ago
• xingag / weixin_spider
  爬取微信公众号文章
  ☆28Updated 5 years ago
• happyjared / python-learning
  Those years of learning Python - 这些年学习的Python
  ☆115Updated 5 years ago
• Jaysong2012 / tutorial
  Scrapy爬虫实战系列，从零开始爬取腾讯百度淘宝知乎各大网站内容 \n 12306刷票脚本系列
  ☆82Updated 5 years ago
• zjfGit / python3-scrapy-spider-phantomjs-selenium
  基于Python3的动态网站爬虫，使用selenium+phantomjs实现爬取动态网站, 本项目以爬取今日头条为例
  ☆178Updated 4 years ago
• haibincoder / ToutiaoCrawler
  今日头条爬虫，主要爬取关键词搜索结果，包含编辑距离算法、奇异值分解、k-means聚类。
  ☆71Updated 5 years ago
• tmliang / Taobao_Spider
  基于Scrapy的Python3分布式淘宝爬虫
  ☆192Updated 4 years ago
• LongYosef / corpredit
  国家企业信用信息官网爬虫，未获取全部企业信息，重点在设计反爬思路
  ☆66Updated 6 years ago
• Wooden-Robot / scrapy-tutorial
  Scrapy 爬虫框架教程源码
  ☆103Updated 5 years ago
• ioiogoo / scrapy-monitor
  scrapy-monitor，实现爬虫可视化，监控实时状态
  ☆109Updated 8 years ago
• TM0831 / Spiders
  各种大小爬虫集合
  ☆237Updated 4 years ago
• Germey / Weixin
  Weixin Proxy Spider Demo
  ☆33Updated 7 years ago
• Yanxueshan / Scrapy-Redis-Zhihu
  基于scrapy-redis实现分布式爬虫，爬取知乎所有问题及对应的回答，集成selenium模拟登录、英文验证码及倒立文字验证码识别、随机生成User-Agent、IP代理、处理302重定向问题等等
  ☆56Updated 5 years ago
• makelove / Python_Master_Courses
  人生苦短 我用Python
  ☆63Updated 2 years ago
• moranzcw / Zhihu-Spider
  一个获取知乎用户主页信息的多线程Python爬虫程序。
  ☆138Updated 6 years ago
• jin10086 / pachong
  一些爬虫的代码
  ☆147Updated 6 years ago
• 15920036578 / JD_Spider
  京东爬虫（大量注释，对刚入门爬虫者极度友好）
  ☆71Updated 5 years ago
• changetjut / ProxySpider
  爬取http://www.xicidaili.com/上代理IP，并验证代理可用性
  ☆144Updated 5 years ago
• xqtbox / AutoHomeSpider_Scrapy
  爬取汽车之家的口碑数据，并破解前端js反爬虫措施分析
  ☆62Updated 7 years ago
• Germey / CookiesPool
  CookiesPool Based on Redis
  ☆153Updated 7 years ago
• pig6 / taobao_spider
  爬取淘宝商品信息
  ☆147Updated 5 years ago
• brantou / crawler
  爬虫, http代理, 模拟登陆!
  ☆108Updated 7 years ago
• zhangslob / Web-crawler-engineer-for-Python
  Web-crawler-engineer-for-Python
  ☆43Updated 6 years ago