FireFramework / fire
Fire框架是由中通大数据自主研发并开源的、专门用于进行Spark和Flink任务开发的大数据框架,可节约70%以上的代码量。首创基于注解进行Spark和Flink任务开发,具备实时血缘、根因诊断、动态调优、参数热调整等众多平台化功能。Fire框架在中通内部每天处理数据量高达数千亿,在外部已被数十家公司所使用。
☆30Updated 3 months ago
Related projects ⓘ
Alternatives and complementary repositories for fire
- 大数据平台前端项目☆36Updated 6 months ago
- DorisDB SQL解析器Java实现;Clickhouse SQL解析器Java实现☆88Updated 2 years ago
- FlinkSQL数据脱敏和行级权限解决方案及源码,支持面向用户级别的数据脱敏和行级数据访问控制,即特定用户只能访问到脱敏后的数据或授权过的行。此方案是实时领域Flink的解决方案,类似于离线数仓Hive Ranger中的Row-level Filter和Column Mas…☆121Updated last year
- dataService platform is a low-code platform, which only needs to write SQL to realize the development of API services, solve the unificat…☆102Updated last year
- zhili数据平台主要包含统一认证(zhili-auth)、元数据管理(zhili-metadata)、即席查询(zhili-adhoc)、数据服务(zhili-dataservice)、数据采集(zhili-collect)等子项目。☆55Updated 2 years ago
- Apache StreamPark quickstart☆67Updated 3 months ago
- Doris表和字段血缘项目☆73Updated 6 months ago
- Apache SeaTunnel documents☆58Updated this week
- 数据血缘☆56Updated 4 months ago
- 数据采集平台zdh,etl 处理服务☆68Updated last month
- 大数据平台后端项目☆185Updated last week
- ☆67Updated 2 years ago
- big data comparison and data profiling platform: low code,data comparison and data profiling☆253Updated 6 months ago
- Spark、Flink等离线任务的调度以及实时任务的监控☆297Updated 10 months ago
- 此项目主要应用于数据中台或数据平台的数据总线,支持直接实时监 听MySQL、MongoDB、PostgreSQL、Oracle、SQL Server、Db2和Cassandra等数据库的数据变更。☆60Updated 11 months ago
- 数据血缘,Hive/Sqoop/HBase/Spark等,发送到kafka后,解析处理使用neo4j生成血缘☆80Updated 3 years ago
- Asynchronous flink connector based on the Lettuce, supporting sql join and sink, query caching and debugging.☆218Updated this week
- Apache Ambari Web 中文汉化 2.7.x版本直接修改☆40Updated last year
- ☆48Updated 2 years ago
- Apache DolphinScheduler website☆134Updated this week
- ☆190Updated 2 years ago
- DataSphereStudio documents.☆111Updated 9 months ago
- 基于 Flink 的 sqlSubmit 程序☆144Updated 8 months ago
- flink endpoint for open world☆25Updated last year
- 基于 antlr4 的多种数据库SQL解析器,获取SQL中元数据,可用于数据平台产品中的多个场景:ddl语句提取元数据、sql 权限校验、表级血缘、sql语法校验等场景。支持spark、flink、gauss、starrocks、Oracle、MYSQL、Postgresq…☆293Updated this week
- CloudEon uses Kubernetes to install and deploy open-source big data components, enabling the containerized operation of an open-source bi…☆437Updated last week
- 针对datax进行2次开发,实现data 以rpc的方式传递json配置调用推数服务,同时修复datax多处bug。项目中也引入nacos作为服务的配置中心和注册中心; 同时项目内扩展了kafkawriter,rabbitmqwriter,esreader,hiveread…☆68Updated last year
- 从本地IDEA提交Flink/Spark任务到Yarn/k8s集群☆162Updated 3 years ago