MettCat / queue-client
在公司接了一个任务,完成一个项目数据同步的模块。要求是不能操作项目的数据库。怕操作不当,数据丢失。所以想到的方案是使用log4jdbc记录数据源的SQL语句到日志文件。然后按行读取日志文件中的数据,记录读取的Point,以便下次继续读取。读取的数据进入bigqueue队列,bigqueue为一个大型、快速且持久的队列实现。使用netty将出对数据实时由客户端传输到服务端。传输后获取状态,判断状态,失败则重新传输。成功传输下一条数据。保证数据的时效性及有序性。作为一个刚结束实习生活Java新手,查阅了队列,netty,以及Java多线程的知识,参考了很多大牛总结的博文。写了这个demo。还有一个服务端用于接收数据,并保存到目标数据库。此模块还有很多地方需要优化,(比如里面涉及的文件路径问…
☆12Updated 7 years ago
Alternatives and similar repositories for queue-client:
Users that are interested in queue-client are comparing it to the libraries listed below
- 基于ElasticSearch的分布式舆情检索统计服务。☆11Updated last year
- JEECMS是一款基于JAVA技术研发的站群管理系统。 1、支持大规模网站群管理; 2、跨站全文检索、数据共享; 3、微官网/手机网站同步建设; 4、高效二次开发的插件化管理 5、支持可视化模板制作;☆26Updated 8 years ago
- java spring redies:订阅/发布系统;统一配置管理;lua脚本实现分布式锁;缓存应用(连接池,切片连接池,哨兵模式)☆28Updated 2 years ago
- Zdal是支付宝自主研发的数据中间件产品,采用标准的JDBC规范,可以在分布式环境下看上去像传统数据库一样提供海量数据服务,是一种通用的分库分表数据库访问框架,解决单库单表数据库访问压力,Zdal主要提供分库分表,结果集合并,sql解析,数据库failover动态切换等功能…☆18Updated 6 years ago
- 日志实时监控,检索,报警☆20Updated 9 years ago
- 基于redis的分布式锁,适用于秒杀,自增ID等web分布式开发场景☆11Updated 8 years ago
- Java JUC 学习项目 包括各种并发多线程的高级使用。java自带多线程并发锁高级应用☆15Updated 6 years ago
- 微服务的网关,包含oauth2授权、调用次数限制和服务路由☆13Updated 8 years ago
- 用于数据迁移、缓存预热,springboot架构。支持数据区间分割、动态调整线程池配置、任务进度实时查看等特性☆45Updated 7 years ago
- 多租户架构实现企业进销存☆20Updated 8 years ago
- 基于spring boot + quartz + redis实现job任务调度,前端使用vue和element-ui实现页面控制台。☆13Updated 6 years ago
- SpringBoot项目。 主要是Netty与RabbitMq,包含服务与客户端,编码与解码器;定义了两个线程池一个用于netty,一个用于异步写日志。使用了自定义注解获取相应的handler。同时包含mysql、mongo、redis☆16Updated 6 years ago
- dubbo服务间的分布式事物☆11Updated 9 years ago
- 线程池、任务、任务组、任务池,定时任务的类库☆23Updated 3 months ago
- 支付订单系统分表分库高并发实现☆13Updated 3 years ago
- 日志分析器,仿造elk中logstash的简单Java实现,实现监控目录日志,自动解析存入elasticsearch。☆22Updated 9 years ago
- 商品秒杀系统——Java并发实战和并发优化☆13Updated 8 years ago
- 基于SpringBoot(2.0.3)的微服务的单应用秒杀、分布式秒杀示例☆11Updated 11 months ago
- 基于spring boot构建的微服务,服务之间调用日志跟踪,基于spring boot的配置日志输出模式,spring-cloud-starter-feign'的扩展日志输出,请求事件的解析和服务调用轨迹追踪☆22Updated 8 years ago
- rocketmq后台管理,从阿里开源修改。换成rest风格访问,增加拦截器登录配置☆15Updated 8 years ago
- 大数据生态圈学习☆18Updated 2 years ago
- 基于spring mvc+redis+logback+elk的日志demo☆12Updated 8 years ago
- 个人学习xxl-job源码 核心部分加上了中文注释☆16Updated 6 years ago
- 基于云计算Iaas平台的企业级云计算,一站式解决方案,http://www.springcloud.cn☆28Updated 9 years ago
- 实战SpringCloud组件配置管理、服务治理、断路器、智能路由、微代理、控制总线、全局锁、决策竞选、分布式会话、集群状态管理☆14Updated 7 years ago
- 规则引擎☆21Updated 7 years ago
- 一个集成型框架,包含Redis缓存的自动同步模块,业务规则模块,分库分表模块,及事务、ZK统一配置的支持。☆17Updated 9 years ago
- Data develop engine 数据研发引擎,用可视化的组件编排后台数据处理逻辑,配合消息触发、定时任务和restful接口等多种调度机制,从而能够代替传统的大部分后台接口研发。☆32Updated last week
- bank银行巡检系统和CRM客户管理系统☆8Updated 8 years ago
- 使用 Canal 中间件同步 Mysql 和 Redis,以及责任链模式的应用☆18Updated 6 years ago