Alternatives and similar repositories for Scrapy-Spider-based-on-Python3

Users that are interested in Scrapy-Spider-based-on-Python3 are comparing it to the libraries listed below

• zjfGit / python3-scrapy-spider-phantomjs-selenium
  基于Python3的动态网站爬虫，使用selenium+phantomjs实现爬取动态网站, 本项目以爬取今日头条为例
  ☆177Updated 4 years ago
• zhangslob / Taobao_duoshou
  使用Scrapy采集淘宝数据，Flask展示
  ☆66Updated 7 years ago
• renqian520 / tb
  淘宝商品详情+评论爬虫+天猫工商执照（Scrapy、Redis）
  ☆26Updated 7 years ago
• boss-mao / scrapy_enterprise_architecture
  python scrapy 企业级分布式爬虫开发架构模板
  ☆92Updated 7 years ago
• shisiying / tc_zufang
  使用scrapy,redis, mongodb,django实现的一个分布式网络爬虫,底层存储mongodb,分布式使用redis实现,使用django可视化爬虫
  ☆286Updated 7 years ago
• tmliang / Taobao_Spider
  基于Scrapy的Python3分布式淘宝爬虫
  ☆192Updated 4 years ago
• brantou / crawler
  爬虫, http代理, 模拟登陆!
  ☆108Updated 7 years ago
• xqtbox / AutoHomeSpider_Scrapy
  爬取汽车之家的口碑数据，并破解前端js反爬虫措施分析
  ☆62Updated 7 years ago
• Python3WebSpider / Weixin
  Sougou Weixin Spider Using Proxy
  ☆87Updated 4 years ago
• pujinxiao / wechat_sogou_crawl
  基于搜狗微信的公众号文章爬虫
  ☆25Updated 8 years ago
• Yanxueshan / Scrapy-Redis-Zhihu
  基于scrapy-redis实现分布式爬虫，爬取知乎所有问题及对应的回答，集成selenium模拟登录、英文验证码及倒立文字验证码识别、随机生成User-Agent、IP代理、处理302重定向问题等等
  ☆57Updated 6 years ago
• littlepai / Unofficial-Zhihu-API
  深度学习模型自动识别验证码，python爬虫库自动管理会话，通过简单易用的API，实现知乎数据的爬取
  ☆77Updated 2 years ago
• pujinxiao / TaoBao
  scrapy淘宝天猫实战
  ☆27Updated 8 years ago
• smilemilk1992 / scrapy_redis_mongodb
  基于Python+scrapy+redis的分布式爬虫实现框架
  ☆61Updated 5 years ago
• Harhao / wechatPubSpider
  wechat spiders微信公众号爬虫
  ☆109Updated 3 years ago
• tankle / newscrawler
  新闻网站爬虫,目前能够爬取网易，新浪，qq，搜狐等三家网站的新闻页面，并保存到本地。
  ☆35Updated 9 years ago
• dangsh / hive
  lots of spider (很多爬虫）
  ☆118Updated 6 years ago
• Germey / Weibo
  Weibo Spider
  ☆49Updated 8 years ago
• zjhpure / crawler_public_number
  微信公众号爬取(中间人代理法)
  ☆30Updated 2 years ago
• Harhao / toutiao
  今日头条科技新闻接口爬虫
  ☆18Updated 7 years ago
• haibincoder / ToutiaoCrawler
  今日头条爬虫，主要爬取关键词搜索结果，包含编辑距离算法、奇异值分解、k-means聚类。
  ☆72Updated 5 years ago
• sml2h3 / openlawClawer
  openlaw数据爬虫v1.1 更新日期:2017.12.16 解决新版openlaw多种加密问题。引入celery轻松异步分布式，爬取速度再次翻倍！！
  ☆57Updated 5 years ago
• Germey / CookiesPool
  CookiesPool Based on Redis
  ☆152Updated 7 years ago
• ml87124909 / Small
  一个达到国家等级保护2级的项目，让您安心无忧！大家一起来，为python web从业者增加更多就业职位。本系统采用python3,基于flask搭建的脚手架开发。数据库是postgresql.是全网python项目难得一见的结构，有兴趣可以细观。 这个是后台及小程序…
  ☆116Updated 5 years ago
• pujinxiao / weixin
  scrapy搜狗微信文章爬取
  ☆38Updated 8 years ago
• hl10502 / scrapy_site
  使用Scrapy框架，通过关键字检索，爬取招标网站的招投标信息，每天定时发送Email
  ☆56Updated 8 years ago
• OSinoooO / MeituanSpider
  美团爬虫，基于scrapy_redis
  ☆22Updated 6 years ago
• linyhuan / Crawler
  ☆37Updated 6 years ago
• Henryhaohao / Slider_Captcha_Crack
  Slider_Captcha_Crack某教育网站滑动验证码破解(识别率100%)
  ☆52Updated 6 years ago
• YeKandy / JDSpider
  使用python抓取京东全站数据（商品，店铺，分类，评论）
  ☆66Updated 2 years ago