MettCat / queue-client
在公司接了一个任务,完成一个项目数据同步的模块。要求是不能操作项目的数据库。怕操作不当,数据丢失。所以想到的方案是使用log4jdbc记录数据源的SQL语句到日志文件。然后按行读取日志文件中的数据,记录读取的Point,以便下次继续读取。读取的数据进入bigqueue队列,bigqueue为一个大型、快速且持久的队列实现。使用netty将出对数据实时由客户端传输到服务端。传输后获取状态,判断状态,失败则重新传输。成功传输下一条数据。保证数据的时效性及有序性。作为一个刚结束实习生活Java新手,查阅了队列,netty,以及Java多线程的知识,参考了很多大牛总结的博文。写了这个demo。还有一个服务端用于接收数据,并保存到目标数据库。此模块还有很多地方需要优化,(比如里面涉及的文件路径问…
☆12Updated 7 years ago
Alternatives and similar repositories for queue-client:
Users that are interested in queue-client are comparing it to the libraries listed below
- Zdal是支付宝自主研发的数据中间件产品,采用标准的JDBC规范,可以在分布式环境下看上去像传统数据库一样提供海量数据服务,是一种通用的分库分表数据库访问框架,解决单库单表数据库访问压力,Zdal主要提供分库分表,结果集合并,sql解析,数据库failover动态切换等功能…☆18Updated 6 years ago
- Java JUC 学习项目 包括各种并发多线程的高级使用。java自带多线程并发锁高级应用☆14Updated 6 years ago
- 基于spring boot + quartz + redis实现job任务调度,前端使用vue和element-ui实现页面控制台。☆13Updated 6 years ago
- 日志实时监控,检索,报警☆20Updated 8 years ago
- java spring redies:订阅/发布系统;统一配置管理;lua脚本实现分布式锁;缓存应用(连接池,切片连接池,哨兵模式)☆28Updated 2 years ago
- 基于Kafka和MongoDB的结构化日志异步记录和预警框架☆10Updated 8 years ago
- 个人学习xxl-job源码 核心部分加上了中文注释☆16Updated 6 years ago
- 使用 Canal 中间件同步 Mysql 和 Redis,以及责任链模式的应用☆18Updated 6 years ago
- 用于数据迁移、缓存预热,springboot架构。支持数据区间分割、动态调整线程池配置、任务进度实时查看等特性☆45Updated 7 years ago
- 基于redis的分布式锁,适用于秒杀,自增ID等web 分布式开发场景☆11Updated 8 years ago
- 微服务的网关,包含oauth2授权、调用次数限制和服务路由☆13Updated 8 years ago
- 多租户架构实现企业进销存☆20Updated 8 years ago
- 基于spring boot构建的微服务,服务之间调用日志跟踪,基于spring boot的配置日志输出模式,spring-cloud-starter-feign'的扩展日志输出,请求事件的解析和服务调用轨迹追踪☆22Updated 8 years ago
- 支付订单系统分表分库高并发实现☆13Updated 3 years ago
- JEECMS是一款基于JAVA技术研发的站群管理系统。 1、支持大规模网站群管理; 2、跨站全文检索、数据共享; 3、微官网/手机网站同步建设; 4、高效二次开发的插件化管理 5、支持可视化模板制作;☆26Updated 8 years ago
- springboot项目使用脚手架,集成redis、mysql、pg,hbase、elasticsearch、kafka等常用组件功能☆20Updated 2 years ago
- 使用kafka实现log4j日志集中管理☆14Updated 4 years ago
- 基于ActiveMQ的数据交换中间件☆14Updated 10 years ago
- 基于ElasticSearch的分布式舆情检索统计服务。☆11Updated last year
- 使用SpringBoot开发的云舒短视频微信小程序(服务端) 分布式Session,模块化开发,容器化部署☆11Updated 4 years ago
- 业务风控系统☆11Updated 8 years ago
- 实战SpringCloud组件配置管理、服务治理、断路器、智能路由、微代理、控制总线、全局锁、决策竞选、分布式会话、集群状态管理☆14Updated 7 years ago
- 基于spring mvc+redis+logback+elk的日志demo☆12Updated 8 years ago
- Spring项目集成了消息队列-RabbitMQ,实现了普通消息订阅-发布模式的消息队列、延迟消息队列、定时发送消息等☆20Updated 7 years ago
- 基于云计算Iaas平台的企业级云计算,一站式解决方案,http://www.springcloud.cn☆28Updated 9 years ago
- 基于spring 4.x 开发的redis集群中间件应用:redis-cache、redis-cluster-cache、session共享、消息队列等。☆9Updated 7 years ago
- 基于springcloud微服务架构、分布式、高并发、高可用的电商平台,前端框架:VUE全家桶,后端技术:springcloud、redis、kafka、elk、xxljob、mybatispuls等框架技术☆23Updated 7 months ago
- 日志分析器,仿造elk中logstash的简单Java实现,实现监控目录日志,自动解析存入elasticsearch。☆22Updated 9 years ago
- 线程池+消息队列缓存 批量处理高并发任务☆13Updated 5 years ago
- SpringBoot 整合常用框架,druid、mybatis、jpa、dubbo、redis、web等及使用示例,常用工具类等☆14Updated last year