YunKillerE / DataiLinks
基于sqoop封装的一个通用的抽取工具,方便数据平台界面提交任务以及数据源管理
☆10Updated 8 years ago
Alternatives and similar repositories for Datai
Users that are interested in Datai are comparing it to the libraries listed below
Sorting:
- 数据的导出(支持DB2、MySQL、Oracle、Teradata数据库的数据导出)、合并(支持将多个小数据文件合并成一个大的数据文件)、传输(支持FTP、SFTP数据传输)程序,适用于向指定FTP服务器供数的情况,常见于多个源系统以数据文件的形式向数据仓库集中供数。该程序…☆24Updated 10 years ago
- 一个能实现任意动态sql执行、统一管理、异常监控告警的数据查询平台。☆17Updated last year
- 数据分析快速开发平台:包含统一数据访 问接口,数据建模,数据治理,数据展现☆23Updated 7 years ago
- 蓝泰源大数据基础平台☆17Updated 7 years ago
- DataX 是异构数据广泛使用的离线数据同步工具/平台,实现包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、OTS、ODPS 等各种异构数据源之间高效的数据同步功能。☆22Updated 7 years ago
- better performance for kylin query☆15Updated 6 years ago
- 通过图形界面为数据监控以及数据同步提高良好的服务,可支持数据同步的数据源或数据库有:SQL数据源、NoSQL数据源、数据引擎、数据仓库、消息队列;通过Canal可支持数据库监控以及数据备份。☆24Updated 4 years ago
- 此项目主要应用于数据中台或数据平台的数据总线,支持直接实时监听MySQL、MongoDB、PostgreSQL、Oracle、SQL Server、Db2和Cassandra等数据库的数据变更。☆63Updated last year
- 数仓实时项目☆10Updated 6 years ago
- 信托数据仓库及商业智能☆32Updated 7 years ago
- 基于DataX的通用数据同步微服务,一个Restful接口搞定所有通用数据同步☆54Updated 3 years ago
- 使用spark对hive、hbase、ES的读写, 实现一次配置可对不同数据库进行导入导出,并对ES、hbase进行封装☆33Updated 8 years ago
- poseidonX 是一个基于jstorm和flink的一体化实时计算服务平台☆56Updated 7 years ago
- java爬虫,反爬虫策略、ETL清洗数据,以及spark离线和实时分析新闻并存入ES☆20Updated 6 years ago
- 基于Java,封装了hbase的底层api,提供了基于注解的ORM支持,只需定义实体类对象,即可完成对hbase的各种操作。同时对List、Set、Map等复杂数据类型提供了支持☆43Updated 8 years ago
- 实时风控系统,基于spark-streaming、drools、kafka、redis☆53Updated 6 years ago
- 基于PowerCenter的数据质量监控系统☆13Updated 7 years ago
- ETL Tools 数据抽取-转换-加载工具☆79Updated 8 years ago
- 基于ActiveMQ的数据交换中间件☆14Updated 11 years ago
- 基于canal.deployer-1.1.1-SNAPSHOT.tar,canal连接kafka,springboot消费kafka数据入hbase和ElasticSearch☆14Updated 6 years ago
- The Best Practice of HDP,企业级大数据平台实践指南☆10Updated 8 years ago
- 大数据平台相关代码(ES/Hive/Hadoop/hdfs/hbase)☆75Updated 2 years ago
- 对alibaba datax的封装, 进行批量的导入导出,目前只支持没有mysql模板,其他可以自己创建模板,很简单☆19Updated 2 years ago
- Data develop engine 数据研发引擎,用可视化的组件编排后台数据处理逻辑,配合消息触发、定时任务和restful接口等多种调度机制,从而能够代替传统的大部分后台接口研发。☆32Updated this week
- MySQL增量数据实时同步到HDFS/Hive☆11Updated 7 years ago
- springboot+vue页面 REST代码生成器,生成单表的增删改查☆30Updated 2 years ago
- 大数据组件学习;包括dataflow,spring cloud stream;elasticsearch;flink;spark;kafka;phoenix;Hive;Hbase;☆23Updated 3 years ago
- 将kettle集成值web应用中,不再需打开kettle窗口运行,采用springmvc+beetlsql框架实现,并通过quartz自动任务进行数据抽取。配置简单方便。(之前需要kettle打开其运行环境,并配置数据库连接的相关信息)☆62Updated 7 years ago
- 大数据自动化部署,包括自动化部署hadoop、hive、hbase、spark、storm等等一系列组件☆69Updated 7 years ago
- 集数据中台,开放平台,API网关,user-auth,devops,SaaS租户账号下发于一体的企业级云管控平台☆39Updated 6 years ago