PU-101 / spark-etlLinks
因现有的datax、sqoop满足不了需求,使用spark封装了一个数据同步工具。
☆9Updated 6 years ago
Alternatives and similar repositories for spark-etl
Users that are interested in spark-etl are comparing it to the libraries listed below
Sorting:
- Spark Streaming监控平台,支持任务部署与告警、自启动☆128Updated 7 years ago
- flink-sql 在 flink 上运行 sql 和 构建数据流的平台 基于 apache flink 1.10.0☆111Updated 3 years ago
- Learning Flink : Flink CEP,Flink Core,Flink SQL☆72Updated 3 years ago
- 基于canal/kafka conenct的mysql/oracle数据实时同步、flink rest api、flink sql以及udf☆50Updated 2 years ago
- log、event 、time 、window 、table、sql、connect、join、async IO、维表、CEP☆68Updated 2 years ago
- Flink Sql 教程☆34Updated 7 months ago
- Encapsulated spark 与其他组件的结合api,方便使用,例如 es,hbase,kudu,kafka,mq等☆35Updated 5 years ago
- flink实时处理kafka传来的数据通过连接池技术写入hbase☆96Updated 2 years ago
- 基于flink1.9.1,flink-sql-client模块SDK单独实现,支持Yarn集群的远程SQL任务发布,可以支撑flink sql任务的远程化执行☆48Updated 2 years ago
- ☆38Updated last year
- Flink 案例代码☆43Updated 3 years ago
- Spark 脚手架工程,标准化 spark 开发、部署、测试流程。☆94Updated 9 months ago
- 基于DataX的通用数据同步微服务,一个Restful接口搞定所有通用数据同步☆53Updated 3 years ago
- kudu可视化工具☆38Updated 5 years ago
- MySQL增量数据实时同步到HDFS/Hive☆11Updated 6 years ago
- 通过语法树解析获取字段级血缘数据☆61Updated 2 years ago
- 从本地IDEA提交Flink/Spark任务到Yarn/k8s集群☆162Updated 3 years ago
- mysql数据实时增量导入hive☆87Updated 8 years ago
- 为DataX(https://github.com/alibaba/DataX) 提供远程多语言调用(ThriftServer,HttpServer) 分布式运行(DataX on YARN) 功能☆144Updated last month
- 智能数据探索服务(Intelligent Data Exploration Service),一站式Data + AI数据解决方案!☆36Updated last year
- sql解析工具。主要解析hive sql、spark sql、presto sql。从sql中解析出输入表、输出表以及字段等信息☆96Updated 2 years ago
- Spark structured-streaming 消费kafka数据写入hbase☆33Updated 6 years ago
- Real-time ETL developed by Flink, data from MySQL to Greenplum. Use canal to parse the MySQL binlog, put it into kafka, use Flink to cons…☆79Updated last year
- hive仓库元数据管理系统☆166Updated 8 years ago
- Hive-JDBC-Proxy是一个高性能的HiveServer2和Spark ThriftServer的代理服务,具备负载均衡、基于规则转发Hive JDBC Client的请求给到HiveServer2和Spark ThriftServer的能力。☆32Updated 3 years ago
- 易观开源大数据互联网百亿级记录互传Backquarter项目☆19Updated 3 years ago
- My Blog☆76Updated 7 years ago
- This is a based on playframwork for submit spark app☆60Updated last year
- 数据血缘,Hive/Sqoop/HBase/Spark等,发送到kafka后,解析处理使用neo4j生成血缘☆82Updated 3 years ago
- 封装sparkstreaming动态调节batch time(有数据就执行计算); 支持运行过程中增删topic; 封装sparkstreaming 1.6 - kafka 010 用以支持 SSL。☆180Updated 4 years ago