msft-vivi / JobNews-ElasticSearch-Scrapy_redisLinks
项目整体分为scrapy-redis分布式爬虫爬取数据、基于ElasticSearch数据检索和前端界面展示三大模块。做此项目是为了熟悉scrapy-redis的基本流程，以及其背后的原理，同时熟 悉ElasticSearch的使用。本项目可以作为一个基于ES存储的简单但是相对全面的全栈开发的Demo。项目中所采用的组件均在win10本地环境搭建（伪分布），旨在演示项目流程。你可以参考该项目，并将其扩展到多个主机上，实现分布式ES以及分布式Scrapy。
☆27Updated 2 years ago
Alternatives and similar repositories for JobNews-ElasticSearch-Scrapy_redis
Users that are interested in JobNews-ElasticSearch-Scrapy_redis are comparing it to the libraries listed below
Sorting:
- Word2vec 个性化搜索实现 +Scrapy2.3.0(爬取数据) + ElasticSearch7.9.1(存储数据并提供对外Restful API) + Django3.1.1 搜索☆248Updated 2 years ago
- python flask vue-element-admin selenium 爬虫 后台☆171Updated 4 years ago
- 分布式采集拉钩网中杭州爬虫相关职位的数据并使用Flask进行数据的可视化与分析☆37Updated 7 years ago
- 爬取智联招聘网数据，并对其进行招聘数据可视化，爬虫，Data visualization，Django2，echarts☆134Updated last year
- 基于Python+scrapy+redis的分布式爬虫实现框架☆60Updated 5 years ago
- Flask微电影网站开发：前端+后台☆98Updated 2 years ago
- 用于职位发布，简历投递，招聘管理的开源项目 ，一个即刻能用的项目，Powered by Python & Django☆128Updated last year
- 基于flask构建微电影网站，已部署测试(附线上部署过程)，增加异步功能，项目结构优化，发送弹幕，速率控制☆67Updated 7 years ago
- ElasticSearch+Django+Scrapy搜索引擎☆28Updated 2 years ago
- scrapy爬虫天猫（淘宝）店铺店名、月销售量、价格等详细信息。涉及分类大类30多个，小类数百个。总爬取结果50万+条☆57Updated 7 years ago
- 基于Flask和Vue的前后端分离Web后台管理系统☆81Updated 7 years ago
- 链家房屋数据爬虫以及数据分析☆20Updated 5 years ago
- 基于scrapy-redis实现分布式爬虫，爬取知乎所有问题及对应的回答，集成selenium模拟登录、英文验证码及倒立文字验证码识别、随机生成User-Agent、IP代理、处理302重定向问题等等☆57Updated 6 years ago
- 基于Scrapy和Django的二手房爬虫及可视化☆10Updated 2 years ago
- 爬虫项目☆70Updated 6 years ago
- SpiderAdmin 一个集爬虫Scrapy+Scrapyd爬虫项目查看 和 爬虫任务定时调度的可视化管理工具☆94Updated 4 years ago
- 请切换分支到Django-vue！！！毕业设计-中国知网（cnki）爬虫及数据可视化，采用Django和Celery将爬虫内置在网站内，展示实时爬取的数据☆78Updated 4 years ago
- 基于elasticsearch的电影搜索引擎☆55Updated 2 years ago
- 基于Django + Boostrap 的校园BBS系统☆50Updated last year
- Python调用ffmpeg开源视频处理库，来实现视频批量的处理：水印、背景音乐、剪辑、合并、帧率、速率、分辨率等操 作☆115Updated 5 years ago
- python+vue3前后端分离项目☆146Updated 2 years ago
- django+es搭建的前后端分离，唐诗宋词搜索引擎。☆34Updated 3 years ago
- Crawling zhihu, jobbole, lagou by Scrapy, and using Elasticsearch+Django to build a Search Engine website --- README_zh.md (including: i…☆38Updated 6 years ago
- 一个在线教育方向的电商平台，附带视频加密播放功能，调用支付宝支付接口，遵循restful规范，主要使用Python3+django+vue+Element-UI☆138Updated 5 years ago
- python scrapy 企业级分布式爬虫开发架构模板☆91Updated 7 years ago
- flask + Vue => 前后端分离, 提供一个可以复用的 用户注册登录，QQ邮箱接收验证码，Token验证，session/cookie 登录的 模板☆171Updated 7 years ago
- 今日头条 、淘宝 、微博 、斗鱼 、抖音 、哔哩哔哩 、有道翻译、steam网站以及网易云音乐爬取☆59Updated 5 years ago
- 从零开始构建的一个宠物识别系统，包括爬虫、深度学习模型和WEB服务。爬虫使用requests+beautifulsoup4+gevent，深度学习模型使用TensoFlow 2.0，WEB服务使用Vue.js+Element UI。☆71Updated 2 years ago
- recruit 招聘爬虫+数据分析 1.爬虫： 采用Scrapy 分布式爬虫技术，使用mongodb作为数据存储，爬取的网站Demo为51job，数据我目前爬了有几千条 2.数据处理： 采用pandas对爬取的数据进行清洗和处理 2.数据分析： …☆142Updated 3 years ago
- 后端使用Django，前端使用Vue3，爬虫使用Scrapy ，数据库使用Mysql实现的资讯综合网站，包含微博、b站、知乎的热榜信息以及微博和b站的博主的动态信息，并将其统一展示在网页中以方便浏览，还包含完善的个人管理页面和超级用户管理页面☆15Updated 2 years ago