YunKillerE / DataiLinks
基于sqoop封装的一个通用的抽取工具，方便数据平台界面提交任务以及数据源管理
☆10Updated 8 years ago
Alternatives and similar repositories for Datai
Users that are interested in Datai are comparing it to the libraries listed below
Sorting:
- 数据的导出（支持DB2、MySQL、Oracle、Teradata数据库的数据导出）、合并（支持将多个小数据文件合并成一个大的数据文件）、传输（支持FTP、SFTP数据传输）程序，适用于向指定FTP服务器供数的情况，常见于多个源系统以数据文件的形式向数据仓库集中供数。该程序…☆24Updated 10 years ago
- 基于PowerCenter的数据质量监控系统☆13Updated 7 years ago
- 使用spark对hive、hbase、ES的读写， 实现一次配置可对不同数据库进行导入导出，并对ES、hbase进行封装☆33Updated 8 years ago
- java爬虫，反爬虫策略、ETL清洗数据，以及spark离线和实时分析新闻并存入ES☆20Updated 6 years ago
- 数据分析快速开发平台：包含统一数据访问接口，数据建模，数据治理，数据展现☆23Updated 7 years ago
- 一个能实现任意动态sql执行、统一管理、异常监控告警的数据查询平台。☆17Updated last year
- 通过图形界面为数据监控以及数据同步提高良好的服务，可支持数据同步的数据源或数据库有：SQL数据源、NoSQL数据源、数据引擎、数据仓库、消息队列；通过Canal可支持数据库监控以及数据备份。☆24Updated 4 years ago
- 蓝泰源大数据基础平台☆17Updated 7 years ago
- 大数据组件学习；包括dataflow，spring cloud stream；elasticsearch；flink；spark；kafka；phoenix；Hive；Hbase；☆23Updated 3 years ago
- poseidonX 是一个基于jstorm和flink的一体化实时计算服务平台☆55Updated 7 years ago
- 蜂鸟数据分析平台帮助企业快速完成多数据整 合，建立统一数据口径，支持自助式数据准备（ETL）， 并提供可视化分析，帮助企业构建贴合自身业务的企业洞察，并将数据决策覆盖各层员工及应用场景☆21Updated 6 years ago
- 基于DataX的通用数据同步微服务，一个Restful接口搞定所有通用数据同步☆53Updated 3 years ago
- 基于canal.deployer-1.1.1-SNAPSHOT.tar，canal连接kafka，springboot消费kafka数据入hbase和ElasticSearch☆14Updated 6 years ago
- 在公司接了一个任务，完成一个项目数据同步的模块。要求是不能操作项目的数据库。怕操作不当，数据丢失。所以想到的方案是使用log4jdbc记 录数据源的SQL语句到日志文件。然后按行读取日志文件中的数据，记录读取的Point，以便下次继续读取。读取的数据进入bigqueue队列，…☆12Updated 8 years ago
- 实时风控系统，基于spark-streaming、drools、kafka、redis☆53Updated 6 years ago
- 大数据元数据管理相关☆9Updated 2 years ago
- better performance for kylin query☆15Updated 6 years ago
- 基于canal/kafka conenct的mysql/oracle数据实时同步、flink rest api、flink sql以及udf☆50Updated 2 years ago
- 此项目主要应用于数据中台或数据平台的数据总线，支持直接实时监听MySQL、MongoDB、PostgreSQL、Oracle、SQL Server、Db2和Cassandra等数据库的数据变更。☆63Updated last year
- 基于Java，封装了hbase的底层api，提供了基于注解的ORM支持，只需定义实体类对象，即可完成对hbase的各种操作。同时对List、Set、Map等复杂数据类型提供了支持☆43Updated 8 years ago
- 整合报表工具☆11Updated 7 years ago
- DataX 是异构数据广泛使用的离线数据同步工具/平台，实现包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、OTS、ODPS 等各种异构数据源之间高效的数据同步功能。☆22Updated 7 years ago
- 一个优秀的大数据查询平台，提供hive异步任务查询、LDAP用户、数据权限控制、历史查询任务与结果存储、邮件通知、excel下载等功能。☆24Updated 7 years ago
- 大数据工具封装☆19Updated 2 years ago
- 此工程采用SpringBoot + Mybatis + SparkSQL + Hive框架进行集成，支持Kerberos认证。☆22Updated 7 years ago
- ETL Tools 数据抽取-转换-加载工具☆78Updated 8 years ago
- 基于flink的推荐系统，实时获取kafka数据进行数据清洗，离线计算进行文件读取（文件,mongodb,hbase）运用协同过滤算法进行计算得出推荐数据☆20Updated 3 years ago
- 大数据自动化部署，包括自动化部署hadoop、hive、hbase、spark、storm等等一系列组件☆69Updated 7 years ago
- MySQL增量数据实时同步到HDFS/Hive☆11Updated 7 years ago
- springboot+vue页面 REST代码生成器，生成单表的增删改查☆30Updated 2 years ago