344399160 / sparkForDB
使用spark对hive、hbase、ES的读写, 实现一次配置可对不同数据库进行导入导出,并对ES、hbase进行封装
☆32Updated 7 years ago
Alternatives and similar repositories for sparkForDB:
Users that are interested in sparkForDB are comparing it to the libraries listed below
- 此工程采用SpringBoot + Mybatis + SparkSQL + Hive框架进行集成,支持Kerberos认证。☆22Updated 6 years ago
- 大数据组件学习;包括dataflow,spring cloud stream;elasticsearch;flink;spark;kafka;phoenix;Hive;Hbase;☆23Updated 2 years ago
- Spark structured-streaming 消费kafka数据写入hbase☆33Updated 6 years ago
- 大数据平台相关代码(ES/Hive/Hadoop/hdfs/hbase)☆74Updated 2 years ago
- poseidonX 是一个基于jstorm和flink的一体化实时计算服务平台☆55Updated 6 years ago
- SparkSQL数据分析案例☆23Updated 8 years ago
- spark全示例代码(java、scala) Spark most full instance code DEMO (java、scala)☆81Updated 4 years ago
- kafka传数据到Flink存储到mysql之Flink使用SQL语句聚合数据流(设置时间窗口,EventTime)☆32Updated 6 years ago
- hbase+solr实现hbase的二级索引☆48Updated 3 years ago
- Learning Flink : Flink CEP,Flink Core,Flink SQL☆71Updated 3 years ago
- Streaming 相关项目☆15Updated 7 years ago
- Flink 案例代码☆43Updated 2 years ago
- SparkStreaming中利用MySQL保存Kafka偏移量保证0数据丢失☆45Updated 7 years ago
- MySQL增量数据实时同步到HDFS/Hive☆11Updated 6 years ago
- tools for bigData☆37Updated 6 years ago
- kafka spark hbase 日志统计☆79Updated 8 years ago
- Spark Streaming监控平台,支持任务部署与告警、自启动☆128Updated 6 years ago
- 基于Java,封装了hbase的底层api,提供了基于注解的ORM支持,只需定义实体类对象,即可完成对hbase的各种操作。同时对List、Set、Map等复杂数据类型提供了支持☆43Updated 8 years ago
- SparkStreaming项目,显示flume->Kafka->Spark->hbase(实时数据处理方案),Scala实现☆36Updated 7 years ago
- 分布式大数据SQL查询可视化界面!☆68Updated 9 years ago
- hadoop flume hbase kafka storm;读取kafka数据=》storm实时处理(分割字符,统计字符)=》写入hdfs☆21Updated 6 years ago
- 通过HBase Observer同步数据到ElasticSearch☆55Updated 9 years ago
- 因现有的datax、sqoop满足不了需求,使用spark封装了一个数据同步工具。☆9Updated 5 years ago
- 基于DataX的通用数据同步微服务,一个Restful接口搞定所 有通用数据同步☆53Updated 2 years ago
- flink实时处理kafka传来的数据通过连接池技术写入hbase☆95Updated 2 years ago
- 易观开源大数据互联网百亿级记录互传Backquarter项目☆19Updated 2 years ago
- 基于Hadoop和HBase的大规模海量数据去重☆29Updated 6 years ago
- 基于canal/kafka conenct的mysql/oracle数据实时同步、flink rest api、flink sql以及udf☆50Updated 2 years ago
- 使用spark streaming 导入kafka数据到hbase☆25Updated 8 years ago
- 一个优秀的大数据查询平台,提供hive异步任务查询、LDAP用户、数据权限控制、历史查询任务与结果存储、邮件通知、excel下载等功能。☆24Updated 7 years ago