YunKillerE / Datai
基于sqoop封装的一个通用的抽取工具，方便数据平台界面提交任务以及数据源管理
☆10Updated 7 years ago
Alternatives and similar repositories for Datai:
Users that are interested in Datai are comparing it to the libraries listed below
- 数据的导出（支持DB2、MySQL、Oracle、Teradata数据库的数据导出）、合并（支持将多个小数据文件合并成一个大的数据文件）、传输（支持FTP、SFTP数据传输） 程序，适用于向指定FTP服务器供数的情况，常见于多个源系统以数据文件的形式向数据仓库集中供数。该程序…☆25Updated 9 years ago
- 大数据元数据管理相关☆9Updated 2 years ago
- 数据分析快速开发平台：包含统一数据访问接口，数据建模，数据治理，数据展现☆22Updated 6 years ago
- 元数据管理系统☆18Updated 7 years ago
- 大数据组件学习；包括dataflow，spring cloud stream；elasticsearch；flink；spark；kafka；phoenix；Hive；Hbase；☆23Updated 2 years ago
- MySQL增量数据实时同步到HDFS/Hive☆11Updated 6 years ago
- 一个能实现任意动态sql执行、统一管理、异常监控告警的数据查询平台。☆17Updated last year
- 基于PowerCenter的数据质量监控系统☆13Updated 7 years ago
- 实时风控系统，基于spark-streaming、drools、kafka、redis☆51Updated 6 years ago
- 因现有的datax、sqoop满足不了需求，使用spark封装了一个数据同步工具。☆9Updated 5 years ago
- The Best Practice of HDP，企业级大数据平台实践指南☆10Updated 7 years ago
- 一个优秀的大数据查询平台，提供hive异步任务查询、LDAP用户、数据权限控制、历史查询任务与结果存储、邮件通知、excel下载等功能。☆24Updated 7 years ago
- 基于canal.deployer-1.1.1-SNAPSHOT.tar，canal连接kafka，springboot消费kafka数据入hbase和ElasticSearch☆14Updated 6 years ago
- 基于kafkaoffsetmonitor的多集群kafka可视化监控与告警平台，kafka topic管理，springboot+vue☆17Updated 2 years ago
- poseidonX 是一个基于jstorm和flink的一体化实时计算服务平台☆55Updated 6 years ago
- 使用spark对hive、hbase、ES的读写， 实现一次配置可对不同数据库进行导入导出，并对ES、hbase进行封装☆32Updated 7 years ago
- better performance for kylin query☆15Updated 5 years ago
- 将kettle集成值web应用中，不再需打开kettle窗口运行，采用springmvc+beetlsql框架实现，并通过quartz自动任务进行数据抽取。配置简单方便。（之前需要kettle打开其运行环境，并配置数据库连接的相关信息）☆62Updated 6 years ago
- 整合各个支付平台的支付方式☆11Updated 6 years ago
- kafka传数据到Flink存储到mysql之Flink使用SQL语句聚合数据流（设置时间窗口，EventTime）☆32Updated 6 years ago
- 项目脉络:canal监控mysql输送binlog生产到kafka，kafka消费到hbase！ date:20180228☆23Updated 6 years ago
- 新零售大数据平台-运维监控平台的开发☆14Updated 6 years ago
- 基于DataX的通用数据同步微服务，一个Restful接口搞定所有通用数据同步☆53Updated 2 years ago
- 基于canal/kafka conenct的mysql/oracle数据实时同步、flink rest api、flink sql以及udf☆50Updated 2 years ago
- spring+spark streaming+kafka 10版本集成和异常问题处理☆17Updated 7 years ago
- 蓝泰源大数据基础平台☆17Updated 6 years ago
- 数据服务 —— 写个 SQL 即可发布成 API☆12Updated 3 years ago
- 在公司接了一个任务，完成一个项目数据同步的模块。要求是不能操作项目的数据库。怕操作不当，数据丢失。所以想到的方案是使用log4jdbc记录数据源的SQL语句到日志文件。然后按行读取日志文件中的数据，记录读取的Point，以便下次继续读取。读取的数据进入bigqueue队列，…☆12Updated 7 years ago
- 用户画像代码，根据算法推算出用户的性别和年龄比率☆11Updated 7 years ago
- 数据库访问中间件，统一的标准sql查询，底层可以是不同的数据库包括mysql、ElasticSearch、kylin、presto等。☆13Updated 6 years ago