jinshuai86 / SpiderLinks
基于Java的多线程爬虫框架
☆11Updated last year
Alternatives and similar repositories for Spider
Users that are interested in Spider are comparing it to the libraries listed below
Sorting:
- 用于数据迁移、缓存预热，springboot架构。支持数据区间分割、动态调整线程池配置、任务进度实时查看等特性☆45Updated 8 years ago
- 规则引擎☆21Updated 7 years ago
- 由java构建的轻量级消息队列，支持订阅和点对点模式☆33Updated 6 years ago
- 在公司接了一个任务，完成一个项目数据同步的模块。要求是不能操作项目的数据库。怕操作不当，数据丢失。所以想到的方案是使用log4jdbc记录数据源的SQL语句到日志文件。然后按行读取日志文件中的数据，记录读取的Point，以便下次继续读取。读取的数据进入bigqueue队列，…☆12Updated 8 years ago
- 基于Kafka和MongoDB的结构化日志异步记录和预警框架☆10Updated 9 years ago
- Java nio学习的代码案例，常用模式☆17Updated 12 years ago
- rocketmq后台管理，从阿里开源修改。换成rest风格访问，增加拦截器登录配置☆15Updated 9 years ago
- 1、支持网页爬虫 2、多线程、线程池 3、支持全文搜索 4、支持Hadoop 分布式平台、HDFS/MapReduce、Zookeeper、HBase 5、支持redis分布式缓存 6、集成微信公众号开发 7、Spring4新特性 8、ActiveMQ 9、Nginx详细配置…☆16Updated 3 years ago
- 基于队列的任务调度及分发中间件，based on RocketMQ☆16Updated 3 years ago
- 阿里druid连接池剥离出来的sql解析代码☆12Updated 3 years ago
- 分布式MySQL数据库中间件，支持数据的水平、垂直拆分，支持分库分表，支持读写分离，支持结果集合并，支持故障自动切换。☆26Updated 10 years ago
- 基于spring boot + quartz + redis实现job任务调度，前端使用vue和element-ui实现页面控制台。☆13Updated 6 years ago
- 基于Redis实现消息的定时推送☆11Updated last year
- 自定义注解，包括了自定义校验注解、自定义缓存注解、自定义权限校验注解示例代码☆14Updated 2 months ago
- 百万级高性能分布式发布订阅系统，基于nio,netty开发，无锁并发，充分发挥cpu极限, 该项目已自带心跳检测功能，断线自动重连，非常稳定。 注意该项目软件编码为GBK，导入的时候一定要看清项目编码格式。☆74Updated 6 years ago
- ☆43Updated 2 years ago
- 使用一致性哈希consistent-hashing来实现分布式redis,基于spring使用的缓存工具☆14Updated 8 years ago
- 微信公众号抽奖后台☆10Updated 9 years ago
- 个人学习xxl-job源码 核心部分加上了中文注释☆16Updated 7 years ago
- mybatis3在spring中的分库分表☆26Updated 8 years ago
- 实战SpringCloud组件配置管理、服务治理、断路器、智能路由、微代理、控制总 线、全局锁、决策竞选、分布式会话、集群状态管理☆14Updated 8 years ago
- 基于Disruptor的异步并行框架☆21Updated 10 years ago
- Java JUC 学习项目 包括各种并发多线程的高级使用。java自带多线程并发锁高级应用☆15Updated 7 years ago
- java 实现线程池☆16Updated 8 years ago
- 手把手教你设计并实现一个基于Redis的分布式锁☆72Updated 6 years ago
- 抛弃tomcat, 拥抱vert.x☆16Updated last month
- 使用SpringBoot开发的云舒短视频微信小程序(服务端) 分布式Session，模块化开发，容器化部署☆11Updated 5 years ago
- 限流幂等框架☆19Updated 7 years ago
- 线程池、任务、任务组、任务池，定时任务的类库☆23Updated last month
- 基于netty实现的轻量级消息中间件mini-mq，致力于解决分布式事务问题，支持可靠性消息，并具备较强的扩展性和较完善的监控系统。☆20Updated 2 years ago