JasonWiki / dw_etlLinks
dw etl 工具 mysql 增量、全量抽取 to hive. 合并 hive 数据表, 等数据平台清洗工具
☆10Updated 8 years ago
Alternatives and similar repositories for dw_etl
Users that are interested in dw_etl are comparing it to the libraries listed below
Sorting:
- 用户画像代码，根据算法推算出用户的性别和年龄比率☆11Updated 7 years ago
- SparkSQL数据分析案例☆23Updated 8 years ago
- ☆11Updated 8 years ago
- spark流数据处理，可以从flume-ng，kafka接收数据☆11Updated 9 years ago
- 大数据【企业级360°全方位用户画像】标签开发部分源码☆19Updated 4 years ago
- Spark Streaming + kafka + hbase☆15Updated 6 years ago
- 蜂鸟数据分析平台帮助企业快速完成多数据整合，建立统一数据口径，支持自助式数据准备（ETL）， 并提供可视化分析，帮助企业构建贴合自身业务的企业洞察，并将数据决策覆盖各层员工及应用场景☆21Updated 6 years ago
- Spark Mllib 1.6.0版本算法封装☆11Updated 8 years ago
- java爬虫，反爬虫策略、ETL清洗数据，以及spark离线和实时分析新闻并存入ES☆20Updated 6 years ago
- 使用spark对hive、hbase、ES的读写， 实现一次配置可对不同数据库进行导入导出，并对ES、hbase进行封装☆33Updated 8 years ago
- ☆21Updated 9 years ago
- 使用spark streaming 导入kafka数据到hbase☆25Updated 9 years ago
- 基于Spark和Kubernetes的机器学习平台☆31Updated 7 years ago
- 一个比Spark-Parquet还快5~100倍的存储格式☆12Updated 9 years ago
- Spark中实现用户画像系统价值度、忠诚度、流失预警、活跃度等模型☆66Updated 8 years ago
- spring+spark streaming+kafka 10版本集成和异常问题处理☆17Updated 8 years ago
- 分布式大数据SQL查询可视化界面！☆68Updated 9 years ago
- hbase + spark 实现常用推荐算法（主要 用于精准广告投放和推荐系统）☆68Updated 9 years ago
- 【易车】- Spark、flink、HBase、Hive、flume集成了一些Hadoop的原生api的一些demo（如HDFS、MapReduce：目前就这两个）；同时测试一些异常功能☆16Updated 6 years ago
- 基于袋鼠云提供的开源flinkStreamSQL项目，对其实时sql进行可视化功能开发；通过tcpip通信，前端页面选择需要连接的数据库信息，并写sql语句，点击提交后，后端自动执行集群启动和JobGraph提交，并返回结果给前端页面。实现了使用者即使不了解Kafka、fl…☆11Updated 6 years ago
- Hadoop作业平台☆38Updated 12 years ago
- Spark Sql进行离线日志分析，Java Web+Echarts+Ajax进行数据可视化展示☆27Updated 7 years ago
- 流程化 机器学习框架 基于 scala java语言 ,一站式自动机器学习平台 ,主要包括数据分析 特征工程 ，机器模型，自动部署，超参数优化，模型自动优化，自动扩容分配创建功能，类似第四范式、阿里PAI平台、google autoMl、亚马逊SageMaker☆66Updated 7 years ago
- 自助搭建的 hadoop + spark + kafka + zookeeper + storm + hbase + hive + flume 集群，一主两从。☆31Updated 6 years ago
- conbine flume,spark-streaming and redis for real-time computing☆22Updated 10 years ago
- 通过Flink的restful API完成job 提交 启动 查询 取消操作☆20Updated 3 years ago
- 简单易用的ETL工具☆17Updated 6 years ago
- 使用spring-boot-spark的一个样例☆11Updated 7 years ago
- 论坛日志分析系统清洗程序(包含IP规则库，UDF开发，MapReduce程序，日志数据)☆33Updated 7 years ago
- 文本去重算法，研究自推荐系统中新闻的去重，采用了雅虎的Near-duplicates and shingling算法，服务端用c实现，客户端用java实现，利用thrift框架进行通信，为了提高扩展性，去重可以在服务端实现，服务器也提供了计算的接口，方便客户端自己扩展☆24Updated 11 years ago