peopleindreamdontsleep / SparkanSpider
java爬虫，反爬虫策略、ETL清洗数据，以及spark离线和实时分析新闻并存入ES
☆20Updated 6 years ago
Alternatives and similar repositories for SparkanSpider:
Users that are interested in SparkanSpider are comparing it to the libraries listed below
- 量化交易网站 java☆11Updated 8 years ago
- spring cloud集成全渠道在线客服以及后台管理系统，所有微服务之间的消息传递采用区块链技术，持续更新中～～目标是：第一阶段：采用spring cloud微服务搭建后台管理系统第二阶段：集成在线客服，采用netty实现websocket长连接第三阶段：集成h5、微信、…☆17Updated 2 years ago
- JEECMS是一款基于JAVA技术研发的站群管理系统。 1、支持大规模网站群管理； 2、跨站全文检索、数据共享； 3、微官网/手机网站同步建设； 4、高效二次开发的插件化管理 5、支持可视化模板制作；☆26Updated 8 years ago
- 移动用户行为统计系统，服务器端的数据采集分析，参考开源的cobub razor的设计☆36Updated 7 years ago
- 线程池、任务、任务组、任务池，定时任务的类库☆23Updated 2 months ago
- 股票行情--来源恒生，新浪，腾讯，网易☆32Updated 6 years ago
- 股票交易数据处理的整个业务流程 数据源--->数据采集--->数据归类--->数据储存--->数据分析--->数据可视化☆31Updated 8 years ago
- 蜂鸟数据分析平台帮助企业快速完成多数据整合，建立统一数据口径，支持自助式数据准备（ETL）， 并提供可视化分析，帮助企业构建贴合自身业务的企业洞察，并将数据决策覆盖各层员工及应用场景☆21Updated 5 years ago
- 数据处理平台☆16Updated 8 years ago
- 数据库访问中间件，统一的标准sql查询，底层可以是不同的数据库包括mysql、ElasticSearch、kylin、presto等。☆15Updated 6 years ago
- 基于Map/Reduce爬虫,可抽取各大新闻网站的新闻正文并进行分类和聚类☆77Updated 11 years ago
- Java JUC 学习项目 包括各种并发多线程的高级使用。java自带多线程并发锁高级应用☆14Updated 6 years ago
- 论坛日志分析系统清洗程序(包含IP规则库，UDF开发，MapReduce程序，日志数据)☆33Updated 6 years ago
- 电商+大数据+spark机器学习☆17Updated 7 years ago
- 天天基金网爬虫，可多ip节点部署，按ip节点动态调整并发数，可设置代理ip反爬，定时爬取，定时通过邮件反馈基金行情统计数据☆25Updated 2 years ago
- 项目中常用的基础功能实现类。如图片处理、文件操作、短信发送、地图定位、距离计算、MD5、二维码生成与解析、在线支付、消息推送、JSON处理等等。☆11Updated 9 years ago
- 基于Hadoop和HBase的大规模海量数据去重☆29Updated 7 years ago
- 用于数据迁移、缓存预热，springboot架构。支持数据区间分割、动态调整线程池配置、任务进度实时查看等特性☆45Updated 7 years ago
- 基于Nutch+ElasticSearch+MySQL+SSM的简易搜索引擎☆20Updated 8 years ago
- spark流式计算电商商品关注度+推荐系统/关联系统☆15Updated 7 years ago
- 大数据平台相关代码（ES/Hive/Hadoop/hdfs/hbase）☆74Updated 2 years ago
- xxl-job-admin 任务调度平台 Spring Boot 版本[后台部分] ，统一改为rest接口☆38Updated 2 years ago
- 基于Flume、Kafka、SparkSql模拟的实时日志分析系统☆12Updated 9 years ago
- 社交类app后端☆13Updated 8 years ago
- 业务风控系 统☆11Updated 8 years ago
- Fitting是一个面向大数据的统一的开发框架，由大快搜索主导并完全开源，克服了大数据技术开发涉及技术面广,各组件间缺乏统一规范等问题，能有效降低大数据的学习难度，并提高大数据项目的开发效率并可与开源项目混用。 Fitting遵循Apache2.0开源协议，采用类黑箱框架模…☆176Updated 2 years ago
- 基于spring cloud Alibaba的P2P借贷平台（后端服务）☆26Updated 2 years ago
- 蓝泰源大数据基础平台☆17Updated 7 years ago
- 全渠道整合智能在线客服系统☆38Updated 7 years ago
- 实时风控系统，基于spark-streaming、drools、kafka、redis☆51Updated 6 years ago