jinshuai86 / SpiderLinks
基于Java的多线程爬虫框架
☆11Updated last year
Alternatives and similar repositories for Spider
Users that are interested in Spider are comparing it to the libraries listed below
Sorting:
- 用于数据迁移、缓存预热，springboot架构。支持数据区间分割、动态调整线程池配置、任务进度实时查看等特性☆45Updated 8 years ago
- 规则引擎☆22Updated 7 years ago
- java快速上手的网络IO框架，基于netty， google protobuf 数据传输协议，disruptor队列，zookeeper服务注册发现，支持心跳检测，断线重连，tcp连接池，注解分发消息。用于服务器间长连接通讯， 可搭建分布式服务器以及分布式游戏。☆21Updated 3 years ago
- 使用一致性哈希consistent-hashing来实现分布式redis,基于spring使用的缓存工具☆14Updated 8 years ago
- 基于Kafka和MongoDB的结构化日志异步记录和预警框架☆10Updated 9 years ago
- 一个用Solr做企业应用内的搜索引擎的SpringBoot项目☆22Updated 7 years ago
- 在公司接了一个任务，完成一个项目数据同步的模块。要求是不能操作项目的数据库。怕操作不当，数据丢失。所以想到的方案是使用log4jdbc记录数据源的SQL语句到日志文件。然后按行读取日志文件中的数据，记录读取的Point，以便下次继续读取。读取的数据进入bigqueue队列，…☆12Updated 8 years ago
- 基于Disruptor的异步并行框架☆21Updated 10 years ago
- 商品秒杀系统——Java并发实战和并发优化☆12Updated 9 years ago
- Java JUC 学习项目 包括各种并发多线程的高级使用。java自带多线程并发锁高级应用☆15Updated 7 years ago
- mybatis3在spring中的分库分表☆26Updated 8 years ago
- 百万级高性能分布式发布订阅系统，基于nio,netty开发，无锁并发，充分发挥cpu极限, 该项目已自带心跳检测功能，断线自动重连，非常稳定。 注意该项目软件编码为GBK，导入的时候一定要看清项目编码格式。☆74Updated 6 years ago
- 由java构建的轻量级消息队列，支持订阅和点对点模式☆33Updated 6 years ago
- 基于队列的任务调度及分发中间件，based on RocketMQ☆16Updated 3 years ago
- 基于redis的分布式锁，适用于秒杀，自增ID等web分布式开发场景☆11Updated 8 years ago
- 天天基金网爬虫，可多ip节点部署，按ip节点动态调整并发数，可设置代理ip反爬，定时爬取，定时通过邮件反馈基金行情统计数据☆25Updated 3 years ago
- 基于netty实现的轻量级消息中间件mini-mq，致力于解决分布式事务问题，支持可靠性消息，并具备较强的扩展性和较完善的监控系统。☆20Updated 3 years ago
- java分布式爬虫，主机和从机控制的机制☆14Updated 10 years ago
- java spring redies：订阅/发布系统；统一配置管理；lua脚本实现分布式锁；缓存应用（连接池，切片连接池，哨兵模式）☆29Updated 3 years ago
- SpringBoot项目。 主要是Netty与RabbitMq，包含服务与客户端，编码与解码器；定义了两个线程池一个用于netty，一个用于异步写日志。使用了自定义注解获取相应的handler。同时包含mysql、mongo、redis☆17Updated 6 years ago
- rocketmq后台管理，从阿里开源修改。换成rest风格访问，增加拦截器登录配置☆15Updated 9 years ago
- 安浪创想开发的基于JAVA8+ActFramework+MongoDb+MySQL+bootstrap+AngularJS+JQuery等框架的AI人工智能官网管理系统☆13Updated 8 years ago
- 基于Redis实现消息的定时推送☆11Updated last year
- 基于Nutch+ElasticSearch+MySQL+SSM的简易搜索引擎☆20Updated 9 years ago
- JEECMS是一款基于JAVA技术研发的站群管理系统。 1、支持大规模网站群管理； 2、跨站全文检索、数据共享； 3、微官网/手机网站同步建设； 4、高效二次开发的插件化管理 5、支持可视化模板制作；☆26Updated 9 years ago
- Spring项目集成了消息队列-RabbitMQ，实现了普通消息订阅-发布模式的消息队列、延迟消息队列、定时发送消息等☆20Updated 8 years ago
- 缓存cache服务器☆105Updated 8 months ago
- 自定义注解，包括了自定义校验注解、自定义缓存注解、自定义权限校验注解示例代码☆14Updated 3 months ago
- 分布式MySQL数据库中间件，支持数据的水平、垂直拆分，支持分库分表，支持读写分离，支持结果集合并，支持故障自动切换。☆26Updated 10 years ago
- 使用java开源框架netty搭建的文件服务器，不限文件大小，底层采用分布式存储☆23Updated 8 years ago