jinshuai86 / SpiderLinks
基于Java的多线程爬虫框架
☆11Updated last year
Alternatives and similar repositories for Spider
Users that are interested in Spider are comparing it to the libraries listed below
Sorting:
- 用于数据迁移、缓存预热，springboot架构。支持数据区间分割、动态调整线程池配置、任务进度实时查看等特性☆45Updated 8 years ago
- 由java构建的轻量级消息队列，支持订阅和点对点模式☆33Updated 6 years ago
- 使用一致性哈希consistent-hashing来实现分布式redis,基于spring使用的缓存工具☆14Updated 8 years ago
- 规则引擎☆22Updated 7 years ago
- 基于Kafka和MongoDB的结构化日志异步记录和预警框架☆10Updated 9 years ago
- rocketmq后台管理，从阿里开源修改。换成rest风格访问，增加拦截器登录配置☆15Updated 9 years ago
- Strom 实时风控统计☆21Updated 8 years ago
- mybatis3在spring中的分库分表☆26Updated 8 years ago
- 阿里druid连接池剥离出来的sql解析代码☆12Updated 3 years ago
- 个人学习xxl-job源码 核心部分加上了中文注释☆16Updated 7 years ago
- java快速上手的网络IO框架，基于netty， google protobuf 数据传输协议，disruptor队列，zookeeper服务注册发现，支持心跳检测，断线重连，tcp连接池，注解分发消息。用于服务器间长连接通讯，可搭建分布式服务器以及分布式游戏。☆21Updated 3 years ago
- 百万级高性能分布式发布订阅系统，基于nio,netty开发，无锁并发，充分发挥cpu极限, 该项目已自带心跳检测功能，断线自动重连，非常稳定。 注意该项目软件编码为GBK，导入的时候一定要看清项目编码格式。☆74Updated 6 years ago
- 在公司接了一个任务，完成一个项目数据同步的模块。要求是不能操作项目的数据库。怕操作不当，数据丢失。所以想到的方案是使用log4jdbc记录数据源的SQL语句到日志文件。然后按行读取日志文件中的数据，记录读取的Point，以便下次继续读取。读取的数据进入bigqueue队列，…☆12Updated 8 years ago
- java spring redies：订阅/发布系统；统一配置管理；lua脚本实现分布式锁；缓存应用（连接池，切片连接池，哨兵模式）☆29Updated 3 years ago
- 基于netty实现的轻量级消息中间件mini-mq，致力于解决分布式事务问题，支持可靠性消息，并具备较强的扩展性和较完善的监控系统。☆20Updated 3 years ago
- 支付订单系统分表分库高并发实现☆13Updated 3 years ago
- 基于Disruptor的异步并行框架☆21Updated 10 years ago
- 基于队列的任务调度及分发中间件，based on RocketMQ☆16Updated 3 years ago
- 线程池、任务、任务组、任务池，定时任务的类库☆23Updated 3 months ago
- 风控系统设计demo☆23Updated 8 years ago
- 基于Redis实现消息的定时推送☆11Updated last year
- 分布式MySQL数据库中间件，支持数据的水平、垂直拆分，支持分库分表，支持读写分离，支持结果集合并，支持故障自动切换。☆26Updated 10 years ago
- Java JUC 学习项目 包括各种并发多线程的高级使用。java自带多线程并发锁高级应用☆15Updated 7 years ago
- Swagger 是一款RESTFUL接口的文档在线自动生成+功能测试功能软件。本文简单介绍了在项目中集成swagger的方法和一些常见问题。如果 想深入分析项目源码，了解更多内容，见参考资料。 Swagger 是一个规范和完整的框架，用于生成、描述、调用和可视化 RESTfu…☆16Updated 8 years ago
- 基于spring boot + quartz + redis实现job任务调度，前端使用vue和element-ui实现页面控制台。☆13Updated 6 years ago
- 分表分库☆11Updated 8 years ago
- （用于学习）实现一个简单的消息队列。☆32Updated 3 years ago
- uw-dao包是一个封装数据库操作的类库，比hibernate效率高，比mybatis更简单，并一致化管理数据库连接池。☆12Updated 5 months ago
- 分布式事务-最终一致性消息队列服务☆28Updated 8 years ago
- 基于redis的分布式锁，适用于秒杀，自增ID等web分布式开发场景☆11Updated 8 years ago