xiaoyao1999hn / datax-serviceLinks
针对datax进行2次开发，实现data 以rpc的方式传递json配置调用推数服务，同时修复datax多处bug。项目中也引入nacos作为服务的配置中心和注册中心； 同时项目内扩展了kafkawriter，rabbitmqwriter，esreader，hivereader。增强了hdfs插件，支持分区表推送，支持动态参数传递（例如时间实现自增式抽取）。具体使用方式可以参照example模块。目前该服务已经稳定服务某上市公司半年，累计总任务数100+ ，日推送数据过10亿。具体如何使用，如何做插件开发以及datax底层原理，请关注https://blog.csdn.net/xiaoyao1999hn
☆69Updated 2 years ago
Alternatives and similar repositories for datax-service
Users that are interested in datax-service are comparing it to the libraries listed below
Sorting:
- 数据采集平台zdh,etl 处理服务☆72Updated last week
- 使用springboot启动datax，方便以web方式使用☆223Updated 2 years ago
- datax web。datax中的web配置界面没有集成在一起开源出来，此为web端配置项目。☆100Updated 6 years ago
- 基于插件架构的数据源服务，统一接口，可操作不同类型数据源☆47Updated 2 years ago
- ☆25Updated 5 years ago
- datax数据同步elasticsearch的reader和writer插件，支持一对多的扁平数据转换成es的嵌套对象，也支持嵌套对象的读取和ognl表达式过滤，理论上可以无限嵌套。☆88Updated last year
- etl, kettle, web, spring, spring boot, mysql, mybatis, oracle, hadoop, hive, hbase：基于web版kettle开发的一套分布式综合调度,管理,ETL开发的用户专业版B/S架构工具，并且升级为sp…☆207Updated 3 years ago
- 早该知道的一种更高级的 transformer 自定义实现方法。☆30Updated 6 years ago
- 基于DataX 的通用数据同步微服务，一个Restful接口搞定所有通用数据同步☆53Updated 3 years ago
- zhili数据平台主要包含统一认证(zhili-auth)、元数据管理（zhili-metadata）、即席查询(zhili-adhoc)、数据服务(zhili-dataservice)、数据采集(zhili-collect)等子项目。☆59Updated 2 years ago
- ☆69Updated 2 years ago
- 此项目主要应用于数据中台或数据平台的数据总线，支持直接实时监听MySQL、MongoDB、PostgreSQL、Oracle、SQL Server、Db2和Cassandra等数据库的数据变更。☆62Updated last year
- DataX分布式集群化、自定义DataX插件、源码修改任务监控以及脏数据存表Hook☆26Updated 4 years ago
- Full Database Migration Tool based on Alibaba DataX 3.0☆98Updated 5 years ago
- 数据中台产品☆206Updated 6 years ago
- 基于spring boot通过java代码调用kette☆279Updated 9 months ago
- 将datax改成一个java服务包，支持单jvm同时运行多个实例，整合调度代码，提供api调用接口，可以直接集成到已有服务框架。☆36Updated 2 years ago
- ☆62Updated last month
- 京东RTF实时数据湖，是一个从底层重新构建的系统，解决了数据的接入、解析及清洗等ETL 过程，同时解决了传统离线模式达不到的实时性和流式实时数据做不到的数据清洗、还原，是一套大数据领域改革性的实时数据方案。RTF可以直接查询最新状态的数据，并且无需去重，可以让数据分析人员即…☆126Updated last year
- ETL Tools 数据抽取-转换-加载工具☆78Updated 8 years ago
- database meta crawl tool☆83Updated 5 years ago
- 将kettle集成值web应用中，不再需打开kettle窗口运行，采用springmvc+beetlsql框架实现，并通过quartz自动任务进行数据抽取。 配置简单方便。（之前需要kettle打开其运行环境，并配置数据库连接的相关信息）☆61Updated 7 years ago
- 给flink开发的web系统。支持页面上定义udf，进行sql和jar任务的提交；支持source、sink、job的管理；可以管理openshift上的flink集群☆284Updated 2 years ago
- Exchangis is a lightweight,highly extensible data exchange platform that supports data transmission between structured and unstructured h…☆450Updated 2 months ago
- 基于canal/kafka conenct的mysql/oracle数据实时同步、flink rest api、flink sql以及udf☆50Updated 2 years ago
- 为DataX(https://github.com/alibaba/DataX) 提供远程多语言调用（ThriftServer，HttpServer） 分布式运行（DataX on YARN） 功能☆144Updated this week
- DBMetadata数据库元数据☆92Updated 7 years ago
- DataX分布式集群与负载均衡、任务执行/统计，基于DataX的通用数据同步微服务，一个Restful接口搞定所有通用数据同步☆43Updated 4 years ago
- A distributed data factory, providing data access, etl, scheduling. Easily manage tasks such as hive, spark, clickhouse, flink, shell, py…☆33Updated 3 years ago
- Real time data processing system based on flink and CEP☆249Updated 6 months ago