29DCH / Real-time-log-analysis-systemLinks
基于spark streaming+flume+kafka+hbase的实时日志处理分析系统(分为控制台版本和基于springboot、Echarts等的Web UI可视化版本)
☆38Updated last year
Alternatives and similar repositories for Real-time-log-analysis-system
Users that are interested in Real-time-log-analysis-system are comparing it to the libraries listed below
Sorting:
- 大数据平台相关代码（ES/Hive/Hadoop/hdfs/hbase）☆75Updated 2 years ago
- 大数据生态圈学习☆18Updated 2 years ago
- 使用Storm实时处理交通大数据（数据源：kafka，集群管理：zookeeper）☆51Updated 2 years ago
- 大数据招聘信息分析平台☆44Updated 9 years ago
- kafka spark hbase 日志统计☆80Updated 8 years ago
- hadoop flume hbase kafka storm；读取kafka数据=》storm实时处理（分割字符，统计字符）=》写入hdfs☆21Updated 6 years ago
- 使用spark对hive、hbase、ES的读写， 实现一次配置可对不同数据库进行导入导出，并对ES、hbase进行封装☆33Updated 8 years ago
- 用于数据迁移、缓存预热，springboot架构。支持数据区间分割、动态调整线程池配置、任务进度实时查看等特性☆45Updated 8 years ago
- Spark混合推荐系统大数据监控平台☆12Updated 7 years ago
- 电商+大数据+spark机器学习☆17Updated 7 years ago
- Spark Sql进行离线日志分析，Java Web+Echarts+Ajax进行数据可视化展示☆27Updated 6 years ago
- flink实时处理kafka传来的数据通过连接池技术写入hbase☆96Updated 2 years ago
- 大数据组件学习；包括dataflow，spring cloud stream；elasticsearch；flink；spark；kafka；phoenix；Hive；Hbase；☆23Updated 3 years ago
- A big data platform for analyzing web access logs☆53Updated 2 years ago
- 分布式数据仓库最佳实践☆57Updated 7 years ago
- 大型分布式系统实时监控平台☆28Updated 2 years ago
- 分布式大数据SQL查询可视化界面！☆68Updated 9 years ago
- 数据的导出（支持DB2、MySQL、Oracle、Teradata数据库的数据导出）、合并（支持将多个小数据文件合并成一个大的数据文件）、传输（支持FTP、SFTP数据传输）程序，适用于向指定FTP服务器供数的情况，常见于多个源系统以数据文件的形式向数据仓库集中供数。该程序…☆24Updated 10 years ago
- 大数据自动化部署，包括自动化部署hadoop、hive、hbase、spark、storm等等一系列组件☆69Updated 6 years ago
- 基于Hadoop和HBase的大规模海量数据去重☆30Updated 7 years ago
- 基于Java，封装了hbase的底层api，提供了基于注解的ORM支持，只需定义实体类对象，即可完成对hbase的各种操作。同时对List、Set、Map等复杂数据类型提供了支持☆43Updated 8 years ago
- 实时风控系统，基于spark-streaming、drools、kafka、redis☆53Updated 6 years ago
- 基于Flink流处理的动态实时亿级全端用户画像系统可视化界面☆34Updated 2 years ago
- 数据可视化, 数据挖掘, 数据处理 ETL分析☆168Updated 3 years ago
- 基于flink的推荐系统，实时获取kafka数据进行数据清洗，离线计算进行文件读取（文件,mongodb,hbase）运用协同过滤算法进行计算得出推荐数据☆20Updated 3 years ago
- Storm Kafka 流数据 处理系统☆20Updated 6 years ago
- poseidonX 是一个基于jstorm和flink的一体化实时计算服务平台☆55Updated 6 years ago
- 论坛日志分析系统清洗程序(包含IP规则库，UDF开发，MapReduce程序，日志数据)☆33Updated 7 years ago
- SpringBoot+Solr + webmagic JD商品爬取数据，放入solr中做搜索，学习下solr使用☆44Updated 7 years ago
- 在公司接了一个任务，完成一个项目数据同步的模块。要求是不能操作项目的数据库。怕操作不当，数据丢失。所以想到的方案是使用log4jdbc记录数据源的SQL语句到日志文件。然后按行读取日志文件中的数据，记录读取的Point，以便下次继续读取。读取的数据进入bigqueue队列，…☆12Updated 7 years ago