thestyleofme / DataXLinks
DataX分布式集群化、自定义DataX插件、源码修改任务监控以及脏数据存表Hook
☆26Updated 4 years ago
Alternatives and similar repositories for DataX
Users that are interested in DataX are comparing it to the libraries listed below
Sorting:
- DorisDB SQL解析器Java实现;Clickhouse SQL解析器Java实现☆95Updated 3 years ago
- 针对datax进行2次开发,实现data 以rpc的方式传递json配置调用推数服务,同时修复datax多处bug。项目中也引入nacos作为服务的配置中心和注册中心; 同时项目内扩展了kafkawriter,rabbitmqwriter,esreader,hiveread…☆69Updated 2 years ago
- 从本地IDEA提交Flink/Spark任务到Yarn/k8s集群☆162Updated 3 years ago
- 数据采集平台zdh,etl 处理服务☆72Updated last week
- 基于flink1.9.1,flink-sql-client模块SDK单独实现,支持Yarn集群的远程SQL任务发布,可以支撑flink sql任务的远程化执行☆48Updated 2 years ago
- 数据血缘,Hive/Sqoop/HBase/Spark等,发送到kafka后,解析处理使用neo4j生成血缘☆82Updated 3 years ago
- 基于canal/kafka conenct的mysql/oracle数据实时同步、flink rest api、flink sql以及udf☆50Updated 2 years ago
- 分享一些在工作中的大数据实战案例,包括flink、kafka、hadoop、presto等等。欢迎大家关注我的公众号【大数据技术与应用实战】,一起成长。☆262Updated last year
- 给flink开发的web系统。支持页面上定义udf,进行sql和jar任务的提交;支持source、sink、job的管理;可以管理openshift上的flink集群☆284Updated 2 years ago
- log、event 、time 、window 、table、sql、connect、join、async IO、维表、CEP☆68Updated 2 years ago
- flink-sql 在 flink 上运行 sql 和 构建数据流的平台 基于 apache flink 1.10.0☆111Updated 3 years ago
- 基于 Flink 的 sqlSubmit 程序☆145Updated last year
- 基于flink 1.8 源码二次开发,详见MD☆82Updated 5 years ago
- ☆38Updated 2 years ago
- 此项目主要应用于数据中台或数据平台的数据总线,支持直接实时监听MySQL、MongoDB、PostgreSQL、Oracle、SQL Server、Db2和Cassandra等数据库的数据变更。☆62Updated last year
- ☆69Updated 2 years ago
- Flink 实时ETL案例☆46Updated 2 years ago
- Doris表和字段血缘项目☆82Updated last year
- datax数据同步elasticsearch的reader和writer插件,支持一对多的扁平数据转换成es的嵌套对象,也支持嵌套对象的读取和ognl表达式过滤,理论上可以无限嵌套。☆88Updated last year
- 基于插件架构的数据源服务,统一接口,可操作不同类型数据源☆47Updated 2 years ago
- 为DataX(https://github.com/alibaba/DataX) 提供远程多语言调用(ThriftServer,HttpServer) 分布式运行(DataX on YARN) 功能☆144Updated this week
- 通过语法树解析获取字段级血缘数据☆61Updated 2 years ago
- 京东RTF实时数据湖,是一个从底层重新构建的系统,解决了数据的接入、解析及清洗等ETL 过程,同时解决了传统离线模式达不到的实时性和流式实时数据做不到的数据清洗、还原,是一套大数据领域改革性的实时数据方案。RTF可以直接查询最新状态的数据,并且无需去重,可以让数据分析人员即…☆126Updated last year
- Real-time ETL developed by Flink, data from MySQL to Greenplum. Use canal to parse the MySQL binlog, put it into kafka, use Flink to cons…☆79Updated last year
- Real time data processing system based on flink and CEP☆249Updated 6 months ago
- 基于DataX的通用数据同步微服务,一个Restful接口搞定所有通用数据同步☆53Updated 3 years ago
- FlinkSQL数据脱敏和行级权限解决方案及源码,支持面向用户级别的数据脱敏和行级数据访问控制,即特定用户只能访问到脱敏后的数据或授权过的行。此方案是实时领域Flink的解决方案,类似于离线数仓Hive Ranger中的Row-level Filter和Column Mas…☆138Updated last year
- Spark、Flink等离线任务的调度以及实时任务的监控☆303Updated last year
- Flink代码实例☆122Updated 4 years ago
- tis console web ui dashboard☆1Updated 3 weeks ago