jinshuai86 / SpiderLinks
基于Java的多线程爬虫框架
☆11Updated last year
Alternatives and similar repositories for Spider
Users that are interested in Spider are comparing it to the libraries listed below
Sorting:
- 用于数据迁移、缓存预热，springboot架构。支持数据区间分割、动态调整线程池配置、任务进度实时查看等特性☆45Updated 8 years ago
- 规则引擎☆21Updated 7 years ago
- 由java构建的轻量级消息队列，支持订阅和点对点模式☆33Updated 6 years ago
- java spring redies：订阅/发布系统；统一配置管理；lua脚本实现分布式锁；缓存应用（连接池，切片连接池，哨兵模式）☆29Updated 2 years ago
- 基于Redis实现消息的定时推送☆11Updated last year
- Java JUC 学习项目 包括各种并发多线程的高级使用。java自带多线程并发锁高级应用☆15Updated 7 years ago
- java快速上手的网络IO框架，基于netty， google protobuf 数据传输协议，disruptor队列，zookeeper服务注册发现，支持心跳检测，断线重连，tcp连接池，注解分发消息。用于服务器间长连接通讯，可搭建分布式服务器以及分布式游戏。☆20Updated 3 years ago
- 使用一致性哈希consistent-hashing来实现分布式redis,基于spring使用的缓存工具☆14Updated 8 years ago
- 在公司接了一个任务，完成一个项目数据同步的模块。要求是不能操作项目的数据库。怕操作不当，数据丢失。所以想到的方案是使用log4jdbc记录数据源的SQL语句到日志文件。然后按行读取日志文件中的数据，记录读取的Point，以便下次继续读取。读取的数据进入bigqueue队列，…☆12Updated 8 years ago
- mybatis3在spring中的分库分表☆26Updated 8 years ago
- 分布式MySQL数据库中间件，支持数据的水平、垂直拆分，支持分库分表，支持读写分离，支持结果集合并，支持故障自动切换。☆26Updated 10 years ago
- 基于netty实现的轻量级消息中间件mini-mq，致力于解决分布式事务问题，支持可靠性消息，并具备较强的扩展性和较完善的监控系统。☆20Updated 2 years ago
- rocketmq后台管理，从阿里开源修改。换成rest风格访问，增加拦截器登录配置☆15Updated 9 years ago
- 一个用Solr做企业应用内的搜索引擎的SpringBoot项目☆22Updated 6 years ago
- 大型分布式系统实时监控平台☆28Updated 2 years ago
- 分布式事务-最终一致性消息队列服务☆28Updated 7 years ago
- 百万级高性能分布式发布订阅系统，基于nio,netty开发，无锁并发，充分发挥cpu极限, 该项目已自带心跳检测功能，断线自动重连，非常稳定。 注意该项目软件编码为GBK，导入的时候一定要看清项目编码格式。☆73Updated 6 years ago
- 基于Disruptor的异步并行框架☆21Updated 10 years ago
- 基于Redis的延迟队列系统☆46Updated 8 years ago
- 基于队列的任务调度及分发中间件，based on RocketMQ☆16Updated 2 years ago
- 使用java开源框架netty搭建的文件服务器，不限文件大小，底层采用分布式存储☆23Updated 8 years ago
- 基于JAVA NIO 的轻量级消息传输框架。主要功能包括：文本消息传输、二进制文件传输、文本及二进制混合传输、消息的自定义实现加密传输算法、同步或异步传输、客户端、服务端框架内置心跳监听、服务端认证、支持网络断线客户端自动重连。☆44Updated 8 years ago
- 限制瞬时发并发数/限制某个接口的时间窗口最大请求数 限流实现☆39Updated 7 years ago
- 基于Kafka和MongoDB的结构化日志异步记录和预警框架☆10Updated 9 years ago
- java分布式爬虫，主机和从机控制的机制☆14Updated 10 years ago
- 个人学习xxl-job源码 核心部分加上了中文注释☆16Updated 7 years ago
- 线程池、任务、任务组、任务池，定时任务的类库☆23Updated 8 months ago
- 2016年阿里中间件性能挑战赛初赛题，RocketMQ+JStorm+Tair实时统计双11交易金额☆43Updated 7 years ago
- 阿里druid连接池剥离出来的sql解析代码☆12Updated 3 years ago
- ☆43Updated 2 years ago