Alternatives and similar repositories for Scrapy-Kafka-Demo:

Users that are interested in Scrapy-Kafka-Demo are comparing it to the libraries listed below

• adrian9631 / CrawlerMonitor
  爬虫监控及可视化 ( Prometheus and Grafana ) Building a crawler with distributed task queues (Celery) and fetching data with a reliable monitor sy…
  ☆44Updated 2 years ago
• tenlee2012 / scrapy-kafka-redis
  Distributed crawling/scraping, Kafka And Redis based components for Scrapy
  ☆45Updated 4 years ago
• aleimu / asyncio_different
  go与python的协程对比,以及python中协程的改进历史,和示例代码
  ☆39Updated 5 years ago
• CooperMin / qichacha
  企查查企业分类信息采集
  ☆40Updated 4 years ago
• HiddenStrawberry / meituan-movie-price-crawler
  美团电影/猫眼价格爬虫，借助tesseractocr破解美团电影价格图片混淆
  ☆28Updated 7 years ago
• libaibuaidufu / Fastapi-scheduler
  这是一个 fastapi 结合 apscheduler 做的一个动态添加定时任务的web
  ☆15Updated 3 years ago
• crawlab-team / crawlab-sdk
  SDK for Crawlab, including SDK for different programming languages such as Python, Node.js and Java, and a CLI Tool written in Python.
  ☆55Updated 8 months ago
• wx-chevalier / MachineLearning-Notes
  人工智能与深度学习实战 - 机器学习篇
  ☆9Updated 5 months ago
• cyhleo / DaZongDianPing
  爬取大众点评中11205条厦门美食商铺信息，其中包含店名、人均消费、所属菜系、所属商圈、详细地址、口味评分、环境评分、服务评分信息。
  ☆19Updated 4 years ago
• runtangr / taoyoulue_spider
  基于mongodb存储，redis缓存，celery 实现的分布式爬虫。
  ☆13Updated 2 years ago
• analysys / Kong_Plus
  易观KongPlus
  ☆19Updated 2 years ago
• sml2h3 / openlawClawer
  openlaw数据爬虫v1.1 更新日期:2017.12.16 解决新版openlaw多种加密问题。引入celery轻松异步分布式，爬取速度再次翻倍！！
  ☆58Updated 5 years ago
• xsren / frontera-docs-zh_CN
  frontera的中文翻译文档
  ☆36Updated 6 years ago
• ciknight / wbot
  Deprecated，https://github.com/PY-Learning/wbot
  ☆11Updated 7 years ago
• xiantang / Spider
  web crawler
  ☆42Updated 4 years ago
• yeyeye777 / weixin_article_spider
  搜狗微信文章爬虫，对于临时链接进行转换为永久链接。
  ☆11Updated 4 years ago
• Germey / DragCaptcha
  Drag Captcha
  ☆20Updated 3 years ago
• Python3WebSpider / ElasticSearchTest
  Elastic Search Code
  ☆22Updated 3 years ago
• Sssmeb / BloomFilter
  BloomFilter Based on py3(基于py3的布隆过滤器)
  ☆25Updated 2 years ago
• yangxb2010000 / delay-schedule
  分布式、高可用的延迟调度系统、可以配合消息队列实现延迟任务队列
  ☆12Updated last year
• ltachi1 / amasd
  Amasd是一款基于scrapyd的scrapy部署工具
  ☆28Updated 5 years ago
• aniu-lee / xiaoniu_cron
  基于APScheduler二次开发，支持集群，可视化，API动态调用等等。BUG及时通知到微信，网页等等。
  ☆61Updated 2 years ago
• ydf0509 / object_pool_proj
  pip install universal_object_pool ,万能通用对象池，可以池化任意自定义类型的对象。
  ☆19Updated last year
• da2vin / Spider_index
  爬取百度指数和阿里指数，采用selenium，存入hbase，验证码自动识别，多线程控制
  ☆32Updated 8 years ago
• jiongmefeishi / jiongmefeishi
  这里收集整理最近两年大厂多篇真实面经，整理出一批高频面试题，其中包括腾讯，阿里，字节跳动，百度，京东，美团等一线大厂。
  ☆13Updated 2 years ago
• alonelaval / cabbage-celery
  python分布式任务框架，基于celery
  ☆18Updated 7 years ago
• Germey / Review_Reverse
  2019年末总结下今年做过的逆向，整理代码，复习思路。拼夕夕Web端anti_content参数逆向分析 WEB淘宝sign逆向分析；努比亚Cookie生成逆向分析；百度指数data加密逆向分析 今日头条WEB端_signature、as、cp参数逆向分析知乎登录formd…
  ☆47Updated 5 years ago
• tentenco / baidu-seo
  百度快排 - Baidu SEO
  ☆22Updated 3 years ago
• jinuljt / wechat-web-auth
  对微信网页授权获取用户信息的封装
  ☆10Updated 9 years ago
• Ryuchen / DeadPool
  该项目是一个使用celery作为主体框架的爬虫应用，能够灵活的添加爬虫任务，并且同时运行多站点的爬虫工作，所有组件都能够原生支持规模并发和分布式，加上celery原生的分布式调用，实现大规模并发。
  ☆41Updated 2 years ago