thestyleofme / common-dataxView external linksLinks
基于DataX的通用数据同步微服务,一个Restful接口搞定所有通用数据同步
☆53Jun 21, 2022Updated 3 years ago
Alternatives and similar repositories for common-datax
Users that are interested in common-datax are comparing it to the libraries listed below
Sorting:
- 基于canal/kafka conenct的mysql/oracle数据实时同步、flink rest api、flink sql以及udf☆50Sep 8, 2022Updated 3 years ago
- datax web。datax中的web配置界面没有集成在一起开源出来,此为web端配置项目。☆99Mar 19, 2019Updated 6 years ago
- 此微服务包括分布式认证中心(jwt+redis),Eureka 集群,客户端负载均衡 turbin微服务监控。Hystrix服务熔断机制 请求限流。以及数据同步DATAX (https://github.com/alibaba/DataX),☆25Apr 2, 2018Updated 7 years ago
- 基于flink的用户行为分析☆51Sep 5, 2023Updated 2 years ago
- flink rest api的spring-boot-starter☆17Jun 14, 2023Updated 2 years ago
- 使用springboot启动datax,方便以web方式使用☆228Jan 11, 2023Updated 3 years ago
- flink sql☆11Jun 21, 2022Updated 3 years ago
- 基于spring boot + quartz + redis实现job任务调度,前端使用vue和element-ui实现页面控制台。☆13Jan 30, 2019Updated 7 years ago
- 一款基于kettle的数据处理web调度控制平台,支持文档资源库和数据库资源库,通过web平台控制kettle数据转换,可作为中间件集成到现有系统中☆153Mar 20, 2017Updated 8 years ago
- Full Database Migration Tool based on Alibaba DataX 3.0☆100Oct 28, 2019Updated 6 years ago
- ZkConfig是为zookeeper开发的配置服务工具包,能与现有的Java系统进行良好的集成,也可以使用与非java系统以独立进程运行。提供与spring进行集成的插件。采用注解方式对需要动态更新的内存数据对象进行标注。 ZkConfig用于解决在系统集群中配置文件的实…☆25Apr 17, 2015Updated 10 years ago
- Hive-JDBC-Proxy是一个高性能的HiveServer2和Spark ThriftServer的代理服务,具备负载均衡、基于规则转发Hive JDBC Client的请求给到HiveServer2和Spark ThriftServer的能力。☆33Apr 12, 2022Updated 3 years ago
- 为DataX(https://github.com/alibaba/DataX) 提供远程多语言调用(ThriftServer,HttpServer) 分布式运行(DataX on YARN) 功能☆145Jan 22, 2026Updated 3 weeks ago
- java版微服务常用技术完全整合架构。通过maven添加依赖即用。完全满足开发到发布到k8s的整个devops流程。框架不会有具体的业务实现代码,不过在开发的时候留附带的demo以便校验。框架大部分技术已用到真实业务系统,以确保可行性和正确性。☆10Jul 22, 2023Updated 2 years ago
- 最新源码在 [这里](https://github.com/huzekang/springboot-datax.git)☆36Apr 8, 2024Updated last year
- 基于DataX的数据同步任务调度工具,支持自定义定时任务,支持crontab表达式,支持自定义添加DataX数据同步任务☆38Feb 15, 2019Updated 6 years ago
- POC for all the stack of big data (kafka, spark, cassandra, hdfs, docker, springboot)☆12Dec 16, 2022Updated 3 years ago
- An easy-to-use, scalable spark streaming ETL tool and sdk☆13Aug 14, 2017Updated 8 years ago
- ☆15Aug 25, 2014Updated 11 years ago
- 基于TBSchedule开发的一个分布式任务调度框架,可以解析任务间的依赖,并执行任务(执行Shell、bat脚本)☆12Aug 5, 2016Updated 9 years ago
- DataX 是异构数据广泛使用的离线数据同步工具/平台,实现包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、OTS、ODPS 等各种异构数据源之间高效的数据同步功能。☆22Jan 31, 2018Updated 8 years ago
- DataX分布式集群与负载均衡、任务执行/统计,基于DataX的通用数据同步微服务,一个Restful接口搞定所有通用数据同步☆43Jan 18, 2021Updated 5 years ago
- 一个比Spark-Parquet还快5~100倍的存储格式☆12Feb 22, 2016Updated 9 years ago
- 精简版数据同步工具 ETL☆236Aug 30, 2022Updated 3 years ago
- 整合报表工具☆11Oct 20, 2017Updated 8 years ago
- sql解析和执行,能够执行hive, spark, flink, 以及对应对TensorFlow, Deeplearning4j的算法SQL执行☆11Sep 16, 2022Updated 3 years ago
- 直接在Hadoop执行SQL,不依赖于Hive和Hbase,纯SQL转MapReduce操作。☆12Jul 7, 2016Updated 9 years ago
- 离线调度, hive, 任务依赖, 任务调度, 大数据开发平台☆14May 10, 2018Updated 7 years ago
- 基于阿里Datax改版web datax ,支持管理平台与restful风格API☆29Dec 6, 2022Updated 3 years ago
- 一个多数据源的数据传输工具☆28Apr 23, 2014Updated 11 years ago
- - 由于是实时弹幕,所以需要时时刻刻读取数据库内容,可是大量 的ajax请求会影响服务器性能。于是就使用了goeasy第三方实时消息推送框架。 - 弹幕的动态化可以使用jquery的animate动画来实现 - 至于把弹幕消息发送到数据库就更简单了 ,随便一个请求就可以…☆12Nov 1, 2018Updated 7 years ago
- EserKnife☆14May 11, 2018Updated 7 years ago
- a tool help copy files from hdfs direct to ftp server☆12Dec 6, 2022Updated 3 years ago
- 在公司接了一个任务,完成一个项目数据同步的模块。要求是不能操作项目的数据库。怕操作不当,数据丢失。所以想到的方案是使用log4jdbc记录数据源的SQL语句到日志文件。然后按行读取日志文件中的数据,记录读取的Point,以便下次继续读取。读取的数据进入bigqueue队列,…☆12Aug 10, 2017Updated 8 years ago
- 实战SpringCloud组件配置管理、服务治理、断路器、智能路由、微代理、控制总线、全局锁、决策竞选、分布式会话、集群状态管理☆14Oct 9, 2017Updated 8 years ago
- 跨数据库表同步程序,支持 Docker 部署,自动同步表结构和数据,数仓建设工具☆34Sep 8, 2022Updated 3 years ago
- 给flink开发的web系统。支持页面上定义udf,进行sql和jar任务的提交;支持source、sink、job的管理;可以管理openshift上的flink集群☆290Dec 16, 2022Updated 3 years ago
- 基于ActiveMQ的数据交换中间件☆14Aug 17, 2014Updated 11 years ago
- refactor CBoard with renren-fast framework☆16Nov 28, 2018Updated 7 years ago