针对datax进行2次开发，实现data 以rpc的方式传递json配置调用推数服务，同时修复datax多处bug。项目中也引入nacos作为服务的配置中心和注册中心； 同时项目内扩展了kafkawriter，rabbitmqwriter，esreader，hivereader。增强了hdfs插件，支持分区表推送，支持动态参数传递（例如时间实现自增式抽取）。具体使用方式可以参照example模块。目前该服务已经稳定服务某上市公司半年，累计总任务数100+ ，日推送数据过10亿。具体如何使用，如何做插件开发以及datax底层原理，请关注https://blog.csdn.net/xiaoyao1999hn
☆70Dec 14, 2022Updated 3 years ago
Alternatives and similar repositories for datax-service
Users that are interested in datax-service are comparing it to the libraries listed below. We may earn a commission when you buy through links labeled 'Ad' on this page.
Sorting:
- 将datax改成一个java服务包，支持单jvm同时运行多个实例，整合调度代码，提供api调用接口，可以直接集成到已有服务框架。☆37Dec 6, 2022Updated 3 years ago
- 基于阿里Datax改版web datax ,支持管理平台与restful风格API☆29Dec 6, 2022Updated 3 years ago
- skycloud-base 运维管理平台前端页面☆16Dec 10, 2022Updated 3 years ago
- DataX分布式集群与负载均衡、任务执行/统计，基于DataX的通用数据同步微服务，一个Restful接口搞定所有 通用数据同步☆43Jan 18, 2021Updated 5 years ago
- ☆25Oct 23, 2019Updated 6 years ago
- Managed Kubernetes at scale on DigitalOcean • AdDigitalOcean Kubernetes includes the control plane, bandwidth allowance, container registry, automatic updates, and more for free.
- datax的elasticsearch插件，主要是reader插件，writer插件官网已经实现了。适用于es7.x☆10Mar 6, 2021Updated 5 years ago
- 使用springboot启动datax，方便以web方式使用☆227Jan 11, 2023Updated 3 years ago
- HiveReader for alibaba DataX☆17Jul 23, 2023Updated 2 years ago
- 早该知道的一种更高级的 transformer 自定义实现方法。☆30Mar 28, 2019Updated 7 years ago
- DataX分布式集群化、自定义DataX插件、源码修改任务监控以及脏数据存表Hook☆26Jan 18, 2021Updated 5 years ago
- datax web。datax中的web配置界面没有集成在一起开源出来，此为web端配置项目。☆100Mar 19, 2019Updated 7 years ago
- A Model Context Protocol (MCP) server for Apache Dolphinscheduler. This provides access to your Apache Dolphinshcheduler RESTful API V1 …☆20May 14, 2025Updated 10 months ago
- 一个datax的简化工具，帮助您轻量级的完成datax的二次开发和同步任务☆21Sep 22, 2022Updated 3 years ago
- ETL Tools 数据抽取-转换-加载工具☆80Oct 21, 2016Updated 9 years ago
- NordVPN Special Discount Offer • AdSave on top-rated NordVPN 1 or 2-year plans with secure browsing, privacy protection, and support for for all major platforms.
- springboot auto xss☆11May 23, 2018Updated 7 years ago
- 元数据管理系统☆17Jan 20, 2018Updated 8 years ago
- 为DataX(https://github.com/alibaba/DataX) 提供远程多语言调用（ThriftServer，HttpServer） 分布式运行（DataX on YARN） 功能☆144Updated this week
- database meta crawl tool☆85Jun 28, 2020Updated 5 years ago
- 记录整理日常java安全分析代码☆14Dec 25, 2018Updated 7 years ago
- 一个模拟传感器接入控制, 数据监控平台(springboot 后端)☆11Feb 20, 2019Updated 7 years ago
- DataX集成可视化页面，选择数据源即可一键生成数据同步任务，支持RDBMS、Hive、HBase、ClickHouse、MongoDB等数据源，批量创建RDBMS数据同步任务，集成开源调度系统，支持分布式、增量同步数据、实时查看运行日志、监控执行器资源、KILL运行进程、…☆5,991Jun 2, 2024Updated last year
- 数据血缘，Hive/Sqoop/HBase/Spark等，发送到kafka后，解析处理使用neo4j生成血缘☆85Aug 6, 2021Updated 4 years ago
- Open data platform based on Kubernetes. Scaleph supports SeaTunnel、Flink and Doris backended by SeaTunnel on Flink engine、Flink Kubernete…☆396Dec 17, 2025Updated 3 months ago
- DigitalOcean Gradient AI Platform • AdBuild production-ready AI agents using customizable tools or access multiple LLMs through a single endpoint. Create custom knowledge bases or connect external data.
- datax写redis插件，支持异构数据源导入string、list、hash类型导redis☆19Sep 29, 2021Updated 4 years ago
- Data Integration Platform 是 Bigprime DGP 大数据数智平台中的一个核心子平台，专注于数据源管理、数据集成、数仓管理。该平台致力于通过高效的数据整合与管理，帮助企业实现数据驱动的价值创造。借助先进的插件化架构和灵活的自定义配置，Data …☆36Mar 22, 2026Updated last week
- Straws是一款开源的离线数据同步中间件(ETL)，提供Mysql、SqlServer等离线同步场景，同时支持定时同步（全量、增量、CDC三种模式）和数据转换清洗等功能☆11Jul 31, 2022Updated 3 years ago
- Create and Destroy DigitalOcean droplets. Backed by Ansible☆11Jan 13, 2019Updated 7 years ago
- ActorCloud Documentation☆13Oct 5, 2022Updated 3 years ago
- flink sql☆11Jun 21, 2022Updated 3 years ago
- linux/mac神器及个人配置☆23Feb 13, 2018Updated 8 years ago
- Full Database Migration Tool based on Alibaba DataX 3.0☆102Oct 28, 2019Updated 6 years ago
- 电商用户行为分析大数据平台☆34Nov 13, 2019Updated 6 years ago
- DigitalOcean Gradient AI Platform • AdBuild production-ready AI agents using customizable tools or access multiple LLMs through a single endpoint. Create custom knowledge bases or connect external data.
- Elasticsearch_7 基本操作、嵌套查询、MultiSearchTemplateRequest，rangeQuery，父子关系的建立，更新及查询，分页 等☆11Nov 22, 2023Updated 2 years ago
- HiveWriter for alibaba DataX☆14Sep 25, 2024Updated last year
- 基于DataX的通用数据同步微服务，一个Restful接口搞定所有通用数据同步☆53Jun 21, 2022Updated 3 years ago
- 基于jeecg-boot封装的spring-boot-starter, 可用于快速开发，享受jeecg-boot的所有功能，且升级内核业务无感知！☆23Nov 8, 2020Updated 5 years ago
- Support agile DataOps Based on Flink, DataX and Flink-CDC, Chunjun with Web-UI☆1,292Updated this week
- OLAMI API Java client library and sample codes☆10May 20, 2022Updated 3 years ago
- bigprimeDGP是以数据驱动为核心优势的大数据数智平台。借助先进的插件化架构和灵活的配置,能够快速响应各种复杂的数据业务需求,为企业的数据治理之路提供技术支撑。它集成了数据集成,数据仓库,计算平台,任务调度,服务编排,数据治理,工作流引擎等技术,致力于通过高效的数据整…☆13Mar 22, 2026Updated last week