Alternatives and similar repositories for crawer_python:

Users that are interested in crawer_python are comparing it to the libraries listed below

• Yanxueshan / Scrapy-Redis-Zhihu
  基于scrapy-redis实现分布式爬虫，爬取知乎所有问题及对应的回答，集成selenium模拟登录、英文验证码及倒立文字验证码识别、随机生成User-Agent、IP代理、处理302重定向问题等等
  ☆56Updated 5 years ago
• longxiaofei / dianping
  大众点评商家评论爬虫
  ☆47Updated 5 years ago
• zjfGit / python3-scrapy-spider-phantomjs-selenium
  基于Python3的动态网站爬虫，使用selenium+phantomjs实现爬取动态网站, 本项目以爬取今日头条为例
  ☆177Updated 4 years ago
• haibincoder / ToutiaoCrawler
  今日头条爬虫，主要爬取关键词搜索结果，包含编辑距离算法、奇异值分解、k-means聚类。
  ☆71Updated 5 years ago
• ioiogoo / scrapy-monitor
  scrapy-monitor，实现爬虫可视化，监控实时状态
  ☆109Updated 8 years ago
• alicelmx / wechat_public_spider
  通过搜狗搜索引擎爬取微信公众号文章
  ☆28Updated 7 years ago
• xqtbox / AutoHomeSpider_Scrapy
  爬取汽车之家的口碑数据，并破解前端js反爬虫措施分析
  ☆62Updated 7 years ago
• dangsh / hive
  lots of spider (很多爬虫）
  ☆118Updated 6 years ago
• zhangslob / Taobao_duoshou
  使用Scrapy采集淘宝数据，Flask展示
  ☆65Updated 6 years ago
• 1414044032 / Sina_Spider
  新浪爬虫，基于Python+Selenium。模拟登陆后保存cookie，实现登录状态的保存。可以通过输入关键词来爬取到关键词相关的热门微博。
  ☆30Updated 6 years ago
• shisiying / tc_zufang
  使用scrapy,redis, mongodb,django实现的一个分布式网络爬虫,底层存储mongodb,分布式使用redis实现,使用django可视化爬虫
  ☆286Updated 6 years ago
• Jaysong2012 / tutorial
  Scrapy爬虫实战系列，从零开始爬取腾讯百度淘宝知乎各大网站内容 \n 12306刷票脚本系列
  ☆82Updated 5 years ago
• zhanghe06 / news_spider
  新闻抓取（微信、微博、头条...）
  ☆221Updated 2 years ago
• happyjared / python-learning
  Those years of learning Python - 这些年学习的Python
  ☆114Updated 5 years ago
• qqxx6661 / scrapy-yzd
  该项目为scrapy框架脚手架，整合了自动切换agent，自动切换代理ip等中间件，可以下载后自行编写爬虫。 支持： 豆瓣电影，某东商品信息（名称价格等）。
  ☆35Updated 5 years ago
• monkey-soft / Scrapy_IPProxyPool
  免费 IP 代理池。Scrapy 爬虫框架插件
  ☆102Updated 6 years ago
• xiaosimao / wx_code
  公众号文章代码
  ☆62Updated 6 years ago
• henrylee123 / gzssztCrawler
  scrapy实现商事主体信息公示平台爬虫。查询工商注册信息的网站，输入关键词可以爬相关所有注册企业数据的数据。 网址：http://cri.gz.gov.cn/
  ☆25Updated 5 years ago
• yinzishao / NewsScrapy
  基于scrapy的新闻爬虫
  ☆98Updated 4 years ago
• tmliang / Taobao_Spider
  基于Scrapy的Python3分布式淘宝爬虫
  ☆191Updated 3 years ago
• boss-mao / scrapy_enterprise_architecture
  python scrapy 企业级分布式爬虫开发架构模板
  ☆93Updated 6 years ago
• LongYosef / corpredit
  国家企业信用信息官网爬虫，未获取全部企业信息，重点在设计反爬思路
  ☆67Updated 6 years ago
• smilemilk1992 / scrapy_redis_mongodb
  基于Python+scrapy+redis的分布式爬虫实现框架
  ☆59Updated 5 years ago
• evanleungc / GoldSentAnalysis
  黄金舆情数据分析
  ☆46Updated 7 years ago
• simapple / spider
  test
  ☆163Updated 2 years ago
• changetjut / ProxySpider
  爬取http://www.xicidaili.com/上代理IP，并验证代理可用性
  ☆143Updated 5 years ago
• pig6 / taobao_spider
  爬取淘宝商品信息
  ☆145Updated 5 years ago
• Germey / CookiesPool
  CookiesPool Based on Redis
  ☆153Updated 7 years ago
• renqian520 / tb
  淘宝商品详情+评论爬虫+天猫工商执照（Scrapy、Redis）
  ☆27Updated 6 years ago
• Qutan / Spider
  社交数据爬虫
  ☆215Updated 8 years ago