JasonWiki / dw_etlLinks
dw etl 工具 mysql 增量、全量抽取 to hive. 合并 hive 数据表, 等数据平台清洗工具
☆10Updated 8 years ago
Alternatives and similar repositories for dw_etl
Users that are interested in dw_etl are comparing it to the libraries listed below
Sorting:
- 用户画像代码，根据算法推算出用户的性别和年龄比率☆11Updated 7 years ago
- SparkSQL数据分析案例☆23Updated 8 years ago
- Spark Mllib 1.6.0版本算法封装☆11Updated 8 years ago
- Spark Streaming + kafka + hbase☆15Updated 6 years ago
- 分布式大数据SQL查询可视化界面！☆68Updated 9 years ago
- 文本去重算法，研究自推荐系统中新闻的去重，采用了雅虎的Near-duplicates and shingling算法，服务端用c实现，客户端用java实现，利用thrift框架进行通信，为了提高扩展性，去重可以在服务端实现，服务器也提供了计算的接口，方便客户端自己扩展☆24Updated 11 years ago
- 流程化 机器学习框架 基于 scala java语言 ,一站式自动机器学习平台 ,主要包括数据分析 特征工程 ，机器模型，自动部署，超参数优化，模型自动优化，自动扩容分配创建功能，类似第四范式、阿里PAI平台、google autoMl、亚马逊SageMaker☆66Updated 7 years ago
- ☆11Updated 8 years ago
- 使用spark对hive、hbase、ES的读写， 实现一次配置可对不同数据库进行导入导出，并对ES、hbase进行封装☆33Updated 8 years ago
- 大数据【企业级360°全方位用户画像】标签开发部分源码☆19Updated 4 years ago
- 一个优秀的大数据查询平台，提供hive异步任务查询、LDAP用户、数据权限控制、历史查询任务与结果存储、邮件通知、excel下载等功能。☆24Updated 7 years ago
- Spark Sql进行离线日志分析，Java Web+Echarts+Ajax进行数据可视化展示☆27Updated 6 years ago
- 同步Hive数据仓库数据到Elasticsearch的小工具☆21Updated 7 years ago
- Spark中实现用户画像系统价值度、忠诚度、流失预警、活跃度等模型☆66Updated 8 years ago
- 飞象大数据分析可视化☆19Updated 8 years ago
- 一个比Spark-Parquet还快5~100倍的存储格式☆12Updated 9 years ago
- spark流数据处理，可以从flume-ng，kafka接收数据☆11Updated 9 years ago
- 使用spark streaming 导入kafka数据到hbase☆25Updated 9 years ago
- 使用Spark的MLlib、Hbase作为模型、Hive作数据清洗的核心推荐引擎,在Spark on Yarn测试通过☆30Updated 8 years ago
- Data self exporting and monitoring platform based on Hive data warehouse. https://hc.smartloli.org☆36Updated 8 years ago
- java爬虫，反爬虫策略、ETL清洗数据，以及spark离线和实时分析新闻并存入ES☆20Updated 6 years ago
- hbase + spark 实现常用推荐算法（主要用于精准广告投放和推荐系统）☆68Updated 9 years ago
- kafka传数据到Flink存储到mysql之Flink使用SQL语句聚合数据流（设置时间窗口，EventTime）☆32Updated 7 years ago
- 通过HBase Observer同步数据到ElasticSearch☆54Updated 10 years ago
- 蜂鸟数据分析平台帮助企业快速完成多数据整合，建立统一数据口径，支持自助式数据准备（ETL）， 并提供可视化分析，帮助企业构建贴合自身业务的企业洞察，并将数据决策覆盖各层员工及应用场景☆21Updated 6 years ago
- 【易车】- Spark、flink、HBase、Hive、flume集成了一些Hadoop的原生api的一些demo（如HDFS、MapReduce：目前就这两个）；同时测试一些异常功能☆16Updated 6 years ago
- 数据库访问中间件，统一的标准sql查询，底层可以是不同的数据库包括mysql、ElasticSearch、kylin、presto等。☆15Updated 7 years ago
- ☆21Updated 8 years ago
- conbine flume,spark-streaming and redis for real-time computing☆22Updated 10 years ago
- 基于Spark和Kubernetes的机器学习平台☆31Updated 7 years ago