jd-bigdata / rtf-lake
京东RTF实时数据湖，是一个从底层重新构建的系统，解决了数据的接入、解析及清洗等ETL 过程，同时解决了传统离线模式达不到的实时性和流式实时数据做不到的数据清洗、还原，是一套大数据领域改革性的实时数据方案。RTF可以直接查询最新状态的数据，并且无需去重，可以让数据分析人员即使不了解flink或spark等实时计算框架，也能够获取实时数据进行分析。
☆124Updated last year
Related projects ⓘ
Alternatives and complementary repositories for rtf-lake
- 从本地IDEA提交Flink/Spark任务到Yarn/k8s集群☆162Updated 3 years ago
- 一个实时数仓项目，从0到1搭建实时数仓☆53Updated 3 years ago
- 数据采集平台zdh,etl 处理服务☆68Updated last month
- 分享一些在工作中的大数据实战案例，包括flink、kafka、hadoop、presto等等。欢迎大家关注我的公众号【大数据技术与应用实战】，一起成长。☆262Updated 8 months ago
- 数据血缘，Hive/Sqoop/HBase/Spark等，发送到kafka后，解析处理使用neo4j生成血缘☆79Updated 3 years ago
- Hive hook, obtain task information from Hive, fetch input/output tables and lineage information from HSQL.☆39Updated last year
- flink-sql 在 flink 上运行 sql 和 构建数据流的平台 基于 apache flink 1.10.0☆112Updated 2 years ago
- 给flink开发的web系统。支持页面上定义udf，进行sql和jar任务的提交；支持source、sink、job的管理；可以管理openshift上的flink集群☆286Updated last year
- Using Flink SQL to build ETL job☆200Updated last year
- Flink 案例开发数据清洗、数据报表☆52Updated 2 years ago
- sql解析工具。主要解析hive sql、spark sql、presto sql。从sql中解析出输入表、输出表以及字段等信息☆94Updated last year
- 基于 Flink 的 sqlSubmit 程序☆144Updated 8 months ago
- dataService platform is a low-code platform, which only needs to write SQL to realize the development of API services, solve the unificat…☆102Updated last year
- Spark、Flink等离线任务的调度以及实时任务的监控☆297Updated 10 months ago
- zhili数据平台主要包含统一认证(zhili-auth)、元数据管理（zhili-metadata）、即席查询(zhili-adhoc)、数据服务(zhili-dataservice)、数据采集(zhili-collect)等子项目。☆55Updated 2 years ago
- 此项目主要应用于数据中台或数据平台的数据总线，支持直接实时监听MySQL、MongoDB、PostgreSQL、Oracle、SQL Server、Db2和Cassandra等数据库的数据变更。☆60Updated 11 months ago
- DorisDB SQL解析器Java实现；Clickhouse SQL解析器Java实现☆88Updated 2 years ago
- 基于canal/kafka conenct的mysql/oracle数据实时同步、flink rest api、flink sql以及udf☆50Updated 2 years ago
- Real-time ETL developed by Flink, data from MySQL to Greenplum. Use canal to parse the MySQL binlog, put it into kafka, use Flink to cons…☆78Updated 7 months ago
- Platform for Flink☆283Updated last year
- Doris表和字段血缘项目☆73Updated 6 months ago
- 基于flink1.9.1,flink-sql-client模块SDK单独实现，支持Yarn集群的远程SQL任务发布，可以支撑flink sql任务的远程化执行☆47Updated 2 years ago
- FlinkSQL数据脱敏和行级权限解决方案及源码，支持面向用户级别的数据脱敏和行级数据访问控制，即特定用户只能访问到脱敏后的数据或授权过的行。此方案是实时领域Flink的解决方案，类似于离线数仓Hive Ranger中的Row-level Filter和Column Mas…☆121Updated last year
- Learning Flink : Flink CEP,Flink Core,Flink SQL☆71Updated 2 years ago
- Atlas官方文档中文版☆69Updated 5 years ago
- 基于flink的电商实时数据分析、推荐、风控项目☆51Updated 2 years ago