PU-101 / spark-etl
因现有的datax、sqoop满足不了需求,使用spark封装了一个数据同步工具。
☆9Updated 5 years ago
Related projects ⓘ
Alternatives and complementary repositories for spark-etl
- Learning Flink : Flink CEP,Flink Core,Flink SQL☆71Updated 2 years ago
- Data self exporting and monitoring platform based on Hive data warehouse. https://hc.smartloli.org☆35Updated 7 years ago
- Flink Sql 教程☆34Updated last month
- Encapsulated spark 与其他组件的结合api,方便使用,例如 es,hbase,kudu,kafka,mq等☆35Updated 4 years ago
- MySQL增量数据实时同步到HDFS/Hive☆11Updated 6 years ago
- flinksql-platform☆19Updated 3 years ago
- ☆38Updated last year
- 易观开源大数据互联网百亿级记录互传Backquarter项目☆18Updated 2 years ago
- SparkStreaming中利用MySQL保存Kafka偏移量保证0数据丢失☆45Updated 7 years ago
- 基于canal/kafka conenct的mysql/oracle数据实时同步、flink rest api、flink sql以及udf☆50Updated 2 years ago
- log、event 、time 、window 、table、sql、connect、join、async IO、维表、CEP☆69Updated 2 years ago
- sql实现Structured Streaming☆39Updated 5 years ago
- kafka传数据到Flink存储到mysql之Flink使用SQL语句聚合数据流(设置时间窗口,EventTime)☆31Updated 6 years ago
- 大数据组件学习;包括dataflow,spring cloud stream;elasticsearch;flink;spark;kafka;phoenix;Hive;Hbase;☆21Updated 2 years ago
- 基于DataX的通用数据同步微服务,一个Restful接口搞定所有通用数据同步☆53Updated 2 years ago
- Flink 案例代码☆43Updated 2 years ago
- 通过语法树解析获取字段级血缘数据☆57Updated last year
- sql 解析引擎 探索☆16Updated 6 years ago
- 基于Java,封装了hbase的底层api,提供了基于注解的ORM支持,只需定义实体类对象,即可完成对hbase的各种操作。同时对List、Set、Map等复杂数据类型提供了支持☆41Updated 7 years ago
- Spark structured-streaming 消费kafka数据写入hbase☆33Updated 5 years ago
- tools for bigData☆37Updated 5 years ago
- flink sql☆11Updated 2 years ago
- java性能采集工具☆50Updated 6 years ago
- An easy-to-use, scalable spark streaming ETL tool and sdk☆12Updated 7 years ago
- spark将hdfs数据高性能灌入kafka,然后spark streaming/structured streaming高速消费,关注性能,欢迎提供性能/代码优化建议☆33Updated 5 years ago
- Hive-JDBC-Proxy是一个高性能的HiveServer2和Spark ThriftServer的代理服务,具备负载均衡、基于规则转发Hive JDBC Client的请求给到HiveServer2和Spark ThriftServer的能力。☆31Updated 2 years ago
- 对alibaba datax的封装, 进行批量的导入导出,目前只支持没有mysql模板,其他可以自己创建模板,很简单☆19Updated last year
- 执行Flink SQL 文件的客户端☆26Updated 3 years ago