29DCH / Real-time-log-analysis-system
基于spark streaming+flume+kafka+hbase的实时日志处理分析系统(分为控制台版本和基于springboot、Echarts等的Web UI可视化版本)
☆37Updated last year
Alternatives and similar repositories for Real-time-log-analysis-system:
Users that are interested in Real-time-log-analysis-system are comparing it to the libraries listed below
- 大数据平台相关代码(ES/Hive/Hadoop/hdfs/hbase)☆74Updated 2 years ago
- 大数据招聘信息分析平台☆43Updated 9 years ago
- 基于Hadoop和HBase的大规模海量数据去重☆29Updated 7 years ago
- SparkStreaming项目,显示flume->Kafka->Spark->hbase(实时数据处理方案),Scala实现☆36Updated 7 years ago
- 使用Storm实时处理交通大数据(数据源:kafka,集群管理:zookeeper)☆51Updated 2 years ago
- 论坛日志分析系统清洗程序(包含IP规则库,UDF开发,MapReduce程序,日志数据)☆33Updated 6 years ago
- 大数据生态圈学习☆18Updated 2 years ago
- 大数据实习hdfs+flume+kafka+spark+hbase+hive项目☆34Updated 7 years ago
- 大数据组件学习;包括dataflow,spring cloud stream;elasticsearch;flink;spark;kafka;phoenix;Hive;Hbase;☆23Updated 2 years ago
- 项目实战:Hadoop生态圈☆31Updated 7 years ago
- hadoop flume hbase kafka storm;读取kafka数据=》storm实时处理(分割字符,统计字符)=》写入hdfs☆21Updated 6 years ago
- 使用spark对hive、hbase、ES的读写, 实现一次配置可对不同数据库进行导入导出,并对ES、hbase进行封装☆32Updated 7 years ago
- flink实时处理kafka传来的数据通过连接池技术写入hbase☆95Updated 2 years ago
- Spark混合推荐系统大数据监控平台☆11Updated 6 years ago
- kafka spark hbase 日志统计☆79Updated 8 years ago
- Spark Sql进行离线日志分析,Java Web+Echarts+Ajax进行数据可视化展示☆27Updated 6 years ago
- Big data performance test analysis platform (including WebUI display)。 BigDataAnalysisWeb Analyze storm, spark, and flink throughput chan…☆20Updated 5 years ago
- Storm Kafka 流数据 处理系统☆20Updated 6 years ago
- Streaming 相关项目☆15Updated 8 years ago
- 电商+大数据+spark机器学习☆17Updated 7 years ago
- 论坛日志分析系统☆24Updated 6 years ago
- 分布式大数据SQL查询可视化界面!☆68Updated 9 years ago
- 在公司接了一个任务,完成一个项目数据同步的模块。要求是不能操作项目的数据库。怕操作不当,数据丢失。所以想到的方案是使用log4jdbc记录数据源的SQL语句到日志文件。然后按行读取日志文件中的数据,记录读取的Point,以便下次继续读取。读取的数据进入bigqueue队列,…☆12Updated 7 years ago
- 关于 HDFS,Yarn,MapReduce,HBase,Hive,Pig,Sqoop,Flume,Zookeeper,MemCached,Redis,Storm,Scala,Spark,Flink 等大数据框架的学习笔记☆77Updated 5 years ago
- A big data platform for analyzing web access logs☆52Updated 2 years ago
- 数据的导出(支持DB2、MySQL、Oracle、Teradata数据库的数据导出)、合并(支持将多个小数据文件合并成一个大的数据文件)、传输(支持FTP、SFTP数据传输)程序,适用于向指定FTP服务器供数的情况,常见于多个源系统以数据文件的形式向数据仓库集中供数。该程序…☆24Updated 9 years ago
- 基于Spark2.2新闻网大数据实时系统项目☆61Updated 6 years ago
- 实时风控系统,基于spark-streaming、drools、kafka、redis☆51Updated 6 years ago
- 大数据自动化部署,包括自动化部署hadoop、hive、hbase、spark、storm等等一系列组件☆67Updated 6 years ago
- 基于Flink流处理的动态实时亿级全端用户画像系统可视化界面☆34Updated 2 years ago