JasonWiki / dw_etl
dw etl 工具 mysql 增量、全量抽取 to hive. 合并 hive 数据表, 等数据平台清洗工具
☆9Updated 8 years ago
Alternatives and similar repositories for dw_etl:
Users that are interested in dw_etl are comparing it to the libraries listed below
- 用户画像代码,根据算法推算出用户的性别和年龄比率☆11Updated 7 years ago
- SparkSQL数据分析案例☆23Updated 8 years ago
- hbase + spark 实现常用推荐算法(主要用于精准广告投放和推荐系统)☆67Updated 8 years ago
- Spark1.6和spark2.2的示例,包含kafka,flume,structuredstreaming,jedis,elasticsearch,mysql,dataframe☆15Updated 7 years ago
- 使用spark对hive、hbase、ES的读写, 实现一次配置可对不同数据库进行导入导出,并对ES、hbase进行封装☆32Updated 8 years ago
- Spark Streaming + kafka + hbase☆15Updated 6 years ago
- spark流数据处理,可以从flume-ng,kafka接收数据☆11Updated 9 years ago
- 【易车】- Spark、flink、HBase、Hive、flume集成了一些Hadoop的原生api的一些demo(如HDFS、MapReduce:目前就这两个);同时测试一些异常功能☆16Updated 6 years ago
- 基于袋鼠云提供的开源flinkStreamSQL项目,对其实时sql进行可视化功能开发;通过tcpip通信,前端页面选择需要连接的数据库信息,并写sql语句,点击提交后,后端自动执行集群启动和JobGraph提交,并返回结果给前端页面。实现了使用者即使不了解Kafka、fl…☆11Updated 5 years ago
- 分布式大数据SQL查询可视化界面!☆68Updated 9 years ago
- Spark Mllib 1.6.0版本算法封装☆11Updated 8 years ago
- 蓝泰源大数据基础平台☆17Updated 7 years ago
- kafka传数据到Flink存储到mysql之Flink使用SQL语句聚合数据流(设置时间窗口,EventTime)☆32Updated 6 years ago
- 简单易用的ETL工具☆17Updated 6 years ago
- 使用Spark的MLlib、Hbase作为模型、Hive作数据清洗的核心推荐引擎,在Spark on Yarn测试通过☆30Updated 8 years ago
- 一个优秀的大数据查询平台,提供hive异步任务查询、LDAP用户、数据权限控制、历史查询任务与结果存储、邮件通知、excel下载等功能。☆24Updated 7 years ago
- 使用spark streaming 导入kafka数据到hbase☆25Updated 9 years ago
- Spark Sql进行离线日志分析,Java Web+Echarts+Ajax进行数据可视化展示☆27Updated 6 years ago
- 大数据【企业级360°全方位用户画像】标签开发部分源码☆19Updated 4 years ago
- 数据库访问中间件,统一的标准sql查询,底层可以是不同的数据库包括mysql、ElasticSearch、kylin、presto等。☆15Updated 7 years ago
- Spark混合推荐系统大数据监控平台☆11Updated 7 years ago
- 数据仓库KETTLE ETL资源库☆14Updated 9 years ago
- Spark中实现用户画像系统价值度、忠诚度、流失预警、活跃度等模型☆66Updated 7 years ago
- 使用Spark GraphX基于PageRank算法构建一个仿微博用户好友的分布式推荐系统。☆24Updated 6 years ago
- 论坛日志分析系统清洗程序(包含IP规则库,UDF开发,MapReduce程序,日志数据)☆33Updated 6 years ago
- java爬虫,反爬虫策略、ETL清洗数据,以及spark离线和实时分析新闻并存入ES☆21Updated 6 years ago
- 基于Spark MLlib ALS的音乐推荐系统☆29Updated 8 years ago
- ☆14Updated 3 years ago
- 飞象大数据分析可视化☆19Updated 7 years ago
- 大数据平台相关代码(ES/Hive/Hadoop/hdfs/hbase)☆75Updated 2 years ago