lhq-123 / Spark-Flink-DataWarehouseLinks
基于Flink+Kafka的全链路数仓, 包括实时和离线
☆37Updated 2 years ago
Alternatives and similar repositories for Spark-Flink-DataWarehouse
Users that are interested in Spark-Flink-DataWarehouse are comparing it to the libraries listed below
Sorting:
- 一个实时数仓项目,从0到1搭建实时数仓☆59Updated 4 years ago
- FlinkTutorial 专注大数据Flink流试处理技术。从基础入门、概念、原理、实战、性能调优、源码解析等内容,使用Java开发,同时含有Scala部分核心代码。欢迎关注我的博客及github。☆70Updated 2 years ago
- Flink 案例开发数据清洗、数据报表☆53Updated 2 years ago
- 基于flink的电商实时数据分析、推荐、风控项目☆58Updated 2 years ago
- 用户画像平台,涵盖标签管理,用户画像报告,用户分群,用户360视角,oneId服务☆102Updated last year
- 基于开源Litemall电商项目的大数据项目,包含前端埋点(openresty+lua)、后端埋点;数据仓库(五层)、实时计算和用户画像。大数据平台采用CDH6.3.2(已使用vagrant+ansible脚本化),同时也包含了Azkaban的workflow。☆113Updated 3 years ago
- 【雪球-Infra】功能:实现kafka消息实时落地hbase,支持csv/json字符串两种格式的消息,支持自定义组合rowkey,列簇和列名,支持按照kafka消息流中不同字段join不同的hbase表,并自定义写入列簇和列(join时需评估一下性能), …☆21Updated last year
- 小象数据完整产品包括用户行为分析、用户画像、智慧运营,通过采集用户行为数据和第三方数据进行实时处理和分析,实时获取用户操作、产品体验和运营活动的数据反馈。兼容神策SDK,完整产品包括用户行为分析、用户画像、智慧运营,通过采集用户行为数据和第三方数据进行实时处理和分析,实时获…☆42Updated last year
- zhili数据平台主要包含统一认证(zhili-auth)、元数据管理(zhili-metadata)、即席查询(zhili-adhoc)、数据服务(zhili-dataservice)、数据采集(zhili-collect)等子项目。☆58Updated 2 years ago
- 京东RTF实时数据湖,是一个从底层重新构建的系统,解决了数据的接入、解析及清洗等ETL 过程,同时解决了传统离线模式达不到的实时性和流式实时数据做不到的数据清洗、还原,是一套大数据领域改革性的实时数据方案。RTF可以直接查询最新状态的数据,并且无需去重,可以让数据分析人员即…☆127Updated last year
- 大数据平台后端项目☆228Updated last week
- 此项目主要应用于数据中台或数据平台的数据总线,支持直接实时监听MySQL、MongoDB、PostgreSQL、Oracle、SQL Server、Db2和Cassandra等数据库的数据变更。☆62Updated last year
- Flink 实时ETL案例☆46Updated 2 years ago
- A distributed data factory, providing data access, etl, scheduling. Easily manage tasks such as hive, spark, clickhouse, flink, shell, py…☆32Updated 3 years ago
- 大数据全栈学习【生态组件,技术栈,数据流,数据仓库,数据库,指标体系,血缘关系,元数据管理,数据质量,DataWorks,Hadoop,Spark,Flink,面试,笔记文档,实战练习,公共脚本,常用Shell脚本,Java,Scala,离线,实时,采集,计算,存储,可视化…☆122Updated 4 years ago
- 传统大数据分析工具以Hadoop、Spark为代表,集成了大量的技术框架, 对用户来说又重又笨又不灵活,难以维护和驾驭,国际和国内的敏捷型BI工具在对接时又面临性能、友好性、定制化能力弱的缺点。本项目独辟蹊径,以阿里开源的DataX为ETL工具,以列式数据库ClickHou…☆65Updated 4 years ago
- 最好的大数据项目。《Titan数据运营系统》,本项目是一个全栈闭环系统,我们有用作数据可视化的web系统,然后用flume-kafaka-flume进行日志的读取,在hive设计数仓,编写spark代码进行数仓表之间的转化以及ads层表到mysql的迁移,使用azkaban…☆129Updated 3 years ago
- 这是一个Flink实时数仓项目☆20Updated 2 years ago
- 大数据学习:各种计算框架:☆11Updated 3 years ago
- 大数据组件学习代码☆56Updated last year
- 1.Spark离线批处理,用户实时点击统计;2.SparkSQL日志内容分析;3.受众电影分析 =>(Kafka + SparkStreaming + Redis)和(Kafka + SparkStreaming + Mysql)☆29Updated 2 years ago
- hdfs文件治理工具,文件批量解压、压缩、小文件合并☆25Updated last year
- dataService platform is a low-code platform, which only needs to write SQL to realize the development of API services, solve the unificat…☆111Updated last year
- EOI数据中台产品☆30Updated 2 years ago
- 基于Flink+ClickHouse实时计算平台☆31Updated 2 years ago
- 大数据平台前端项目☆42Updated 2 months ago
- Spark、Flink等离线任务的调度以及实时任务的监控☆301Updated last year
- Flink 电商指标 分析系统☆33Updated last year
- 分享一些在工作中的大数据实战案例,包括flink、kafka、hadoop、presto等等。欢迎大家关注我的公众号【大数据技术与应用实战】,一起成长。☆263Updated last year
- 电商平台数据仓库搭建☆131Updated 4 months ago