jd-bigdata / rtf-lakeLinks
京东RTF实时数据湖,是一个从底层重新构建的系统,解决了数据的接入、解析及清洗等ETL 过程,同时解决了传统离线模式达不到的实时性和流式实时数据做不到的数据清洗、还原,是一套大数据领域改革性的实时数据方案。RTF可以直接查询最新状态的数据,并且无需去重,可以让数据分析人员即使不了解flink或spark等实时计算框架,也能够获取实时数据进行分析。
☆127Updated 2 years ago
Alternatives and similar repositories for rtf-lake
Users that are interested in rtf-lake are comparing it to the libraries listed below
Sorting:
- 分享一些在工作中的大数据实战案例,包括flink、kafka、hadoop、presto等等。欢迎大家关注我的公众号【大数据 技术与应用实战】,一起成长。☆263Updated last year
- Spark、Flink等离线任务的调度以及实时任务的监控☆304Updated last year
- 一个实时数仓项目,从0到1搭建实时数仓☆61Updated 4 years ago
- 基于Flink流处理的动态实时亿级全端用户画像系统☆483Updated 2 years ago
- 给flink开发的web系统。支持页面上定义udf,进行sql和jar任务的提交;支持source、sink、job的管理;可以管理openshift上的flink集群☆286Updated 2 years ago
- 数据采集平台zdh,etl 处理服务☆73Updated last month
- Real time data processing system based on flink and CEP☆250Updated 9 months ago
- Flink 实时ETL案例☆46Updated 3 years ago
- 从本地IDEA提交Flink/Spark任务到Yarn/k8s集群☆165Updated 3 years ago
- Flink 案例开发数据清洗、数据报表☆56Updated 2 weeks ago
- Using Flink SQL to build ETL job☆205Updated 2 years ago
- flink简易使用教程,结合官方仓库的example样例,结合常见场景,使用flink的基本功能☆115Updated 3 years ago
- Flink代码实例☆122Updated 5 years ago
- 数据血缘,Hive/Sqoop/HBase/Spark等,发送到kafka后,解析处理使用neo4j生成血缘☆83Updated 4 years ago
- 此项目主要应用于数据中台或数据平台的数据总线,支持直接实时监听MySQL、MongoDB、PostgreSQL、Oracle、SQL Server、Db2和Cassandra等数据库的数据变更。☆64Updated last year
- flink-sql 在 flink 上运行 sql 和 构建数据流的平台 基于 apache flink 1.10.0☆111Updated 3 years ago
- zhili数据平台主要包含统一认证(zhili-auth)、元数据管理(zhili-metadata)、即席查询(zhili-adhoc)、数据服务(zhili-dataservice)、数据采集(zhili-collect)等子项目。☆61Updated 3 years ago
- 通过语法树解析获取字段级血缘数据☆61Updated 2 years ago
- FlinkTutorial 专注大数据Flink流试处理技术。从基础入门、概念、 原理、实战、性能调优、源码解析等内容,使用Java开发,同时含有Scala部分核心代码。欢迎关注我的博客及github。☆70Updated 3 years ago
- Platform for Flink☆283Updated 2 years ago
- 基于 Flink 的 sqlSubmit 程序☆148Updated last year
- flink实时处理kafka传来的数据通过连接池技术写入hbase☆96Updated 3 years ago
- 基于canal/kafka conenct的mysql/oracle数据实时同步、flink rest api、flink sql以及udf☆50Updated 3 years ago
- DorisDB SQL解析器Java实现;Clickhouse SQL解析器Java实现☆97Updated 3 years ago
- Real-time ETL developed by Flink, data from MySQL to Greenplum. Use canal to parse the MySQL binlog, put it into kafka, use Flink to cons…☆80Updated last year
- 针对datax进行2次开发,实现data 以rpc的方式传递json配置调用推数服务,同时修复datax多处bug。项目中也引入nacos作为服务的配置中心和注册中心; 同时项目内扩展了kafkawriter,rabbitmqwriter,esreader,hiveread…☆69Updated 2 years ago
- 如果你在从事大数据BI的工作,想对比一下MySQL、GreenPlum、Elasticsearch、Hive、Spark SQL、Presto、Impala、Drill、HAWQ、Druid、Pinot、Kylin、ClickHouse、Kudu等不同实现方案之间的表现,…☆285Updated 7 years ago
- DataX分布式集群化、自定义DataX插件、源码修改任务监控以及脏数据存表Hook☆26Updated 4 years ago
- 大数据采集,抽取平台,zdh_web是zdh系列服务的可视化管理平台,包含数据采集,调度,权限,审批流,私域营销等模块☆526Updated last month
- 基于flink的电商实时数据分析、推荐、风控项目☆64Updated 3 years ago