MettCat / queue-client
在公司接了一个任务,完成一个项目数据同步的模块。要求是不能操作项目的数据库。怕操作不当,数据丢失。所以想到的方案是使用log4jdbc记录数据源的SQL语句到日志文件。然后按行读取日志文件中的数据,记录读取的Point,以便下次继续读取。读取的数据进入bigqueue队列,bigqueue为一个大型、快速且持久的队列实现。使用netty将出对数据实时由客户端传输到服务端。传输后获取状态,判断状态,失败则重新传输。成功传输下一条数据。保证数据的时效性及有序性。作为一个刚结束实习生活Java新手,查阅了队列,netty,以及Java多线程的知识,参考了很多大牛总结的博文。写了这个demo。还有一个服务端用于接收数据,并保存到目标数据库。此模块还有很多地方需要优化,(比如里面涉及的文件路径问…
☆12Updated 7 years ago
Alternatives and similar repositories for queue-client:
Users that are interested in queue-client are comparing it to the libraries listed below
- Zdal是支付宝自主研发的数据中间件产品,采用标准的JDBC规范,可以在分布式环境下看上去像传统数据库一样提供海量数据服务,是一种通用的分库分表数据库访问框架,解决单库单表数据库访问压力,Zdal主要提供分库分表,结果集合并,sql解析,数据库failover动态切换等功能…☆18Updated 6 years ago
- 基于spring boot + quartz + redis实现job任务调度,前端使用vue和element-ui实现页面控制台。☆13Updated 6 years ago
- JEECMS是一款基于JAVA技术研发的站群管理系统。 1、支持大规模网站群管理; 2、跨站全文检索、数据共享; 3、微官网/手机网站同步建设; 4、高效二次开发的插件化管理 5、支持可视化模板制作;☆25Updated 8 years ago
- 日志实时监控,检索,报警☆19Updated 8 years ago
- Java JUC 学习项目 包括各种并发多线程的高级使用。java自带多线 程并发锁高级应用☆14Updated 6 years ago
- 基于ActiveMQ的数据交换中间件☆14Updated 10 years ago
- 基于redis的分布式锁,适用于秒杀,自增ID等web分布式开发场景☆11Updated 7 years ago
- 基于springcloud微服务架构、分布式、高并发、高可用的电商平台,前端框架:VUE全家桶,后端技术:springcloud、redis、kafka、elk、xxljob、mybatispuls等框架技术☆23Updated 5 months ago
- 使用 Canal 中间件同步 Mysql 和 Redis,以及责任链模式的应用☆17Updated 6 years ago
- 商品秒杀系统——Java并发实战和并发优化☆13Updated 8 years ago
- 多租户架构实现企业进销存☆20Updated 8 years ago
- 微服务的网关,包含oauth2授权、调用次数限制和服务路由☆13Updated 8 years ago
- 基于ElasticSearch的分布式舆情检索统计服务。☆11Updated last year
- 支付订单系统分表分库高并发实现☆13Updated 2 years ago
- Utmost是一款基于Java的面向业务配置平台,能够迅速搭建企业级应用,集成了业界优秀的开源框架,内置任务调度,多维权限管理,规则引擎,工作流引擎,系统监控,ETL,报表,打印等企业常用组件.拥有一流的用户体验和丰富的界面展现.☆25Updated 7 years ago
- 个人学习xxl-job源码 核心部分加上了中文注释☆16Updated 6 years ago
- NB-IoT智能水表上报数据读取系统,传输层为UDP,利用NIO实现数据读取。(后通过电信平台上报,此程序保留。)☆10Updated 6 years ago
- 用于数据迁移、缓存预热,springboot架构。支持数据区间分割、动态调整线程池配置、任务进度实时查看等特性☆45Updated 7 years ago
- 日志分析器,仿造elk中logstash的简单Java实现,实现监控目录日志,自动解析存入elasticsearch。☆22Updated 8 years ago
- SpringBoot项目。 主要是Netty与RabbitMq,包含服务与客户端,编码与解码器;定义了两个线程池一个用于netty,一个用于异步写日志。使用了自定义注解获取相应的handler。同时包含mysql、mongo、redis☆16Updated 6 years ago
- 一个集成型框架,包含Redis缓存的自动同步模块,业务规则模块,分库分表模块,及事务、ZK统一配置的支持。☆17Updated 9 years ago
- 实战SpringCloud组件配置管理、服务治理、断路器、智能路由、微代理、控制总线、全局锁、决策竞选、分布式会话、集群状态管理☆14Updated 7 years ago
- 线程池、任务、任务组、任务池,定时任务的类库☆23Updated 3 weeks ago
- Data develop engine 数据研发引擎,用可视化的组件编排后台数据处理逻辑,配合消息触发、定时任务和restful接口等多种调度机制,从而能够代替传统的大部分后台接口研发。☆32Updated this week
- 蓝泰源大数据基础平台☆17Updated 6 years ago
- 使用kafka实现log4j日志集中管理☆14Updated 4 years ago
- 基于spring mvc+redis+logback+elk的日志demo☆12Updated 7 years ago
- 一丰商城(Spring Boot + Spring Cloud分布式微服务架构解决方案项目)☆27Updated 5 years ago
- 大数据生态圈学习☆18Updated 2 years ago