canghaiyisu666 / spiderLinks
爬虫项目源码整理,使用redis进行url缓存,hbase进行详细信息的存储。使用zookeeper进行爬虫线程的状态监控。
☆19Updated 9 years ago
Alternatives and similar repositories for spider
Users that are interested in spider are comparing it to the libraries listed below
Sorting:
- 日志分析器,仿造elk中logstash的简单Java实现,实现监控目录日志,自动解析存入elasticsearch。☆22Updated 9 years ago
- dubbo服务间的分布式事物☆11Updated 9 years ago
- 使用kafka实现log4j日志集中管理☆14Updated 4 years ago
- 基于云计算Iaas平台的企业级云计算,一站式解决方案,http://www.springcloud.cn☆28Updated 9 years ago
- 大规模分布式系统的跟踪、监控、告警平台☆55Updated 11 years ago
- 基于zookeeper的分布式定时任务调度系统☆28Updated 9 years ago
- zookeeper官方提供的分布式锁,选举master,和分布式队列实现☆17Updated 11 years ago
- 保障服务的持续高可用、高性能及 负载均衡☆17Updated 8 years ago
- 日志实时监控,检索,报警☆20Updated 9 years ago
- 这是一个统一管理系统权限,设计的目标是给开发者一个完整地权限管理系统,以便你能更专注自己系统业务的开发☆36Updated 9 years ago
- 简单实用的同步工具,实现mysql数据库中数据定期同步到elasticsearch,只需简单的配置,便能达到非凡的效果,支持elasticsearch 5.X版本☆48Updated 8 years ago
- web-sso是一个简约、无状态、易扩展、易伸缩的适合于大型互联网web应用场景的单点登录系统,它功能简单,只实现了统一登录和登出,它最大的特色是将用户状态写入到cookie中,最大程度减少了单点登录服务端的状态,服务端只需要存储公共的应用密钥,将用户凭证的认证分散到各应用…☆24Updated 10 years ago
- 基于Spring4.18+SpringMVC 4.18+hibernate4的内容管理系统☆13Updated 9 years ago
- log4j日志的监控系统,采用web形式展现各模块的运行状态,支持邮件短信报警,适用于一般企业大中型业务生成系统的监控;业务模块定时30秒采用json格式输出到文件,☆47Updated 11 years ago
- kafa spring插件☆14Updated 9 years ago
- 支付订单系统分表分库高并发实现☆13Updated 3 years ago
- YMP开发框架是一套轻量级的JAVA应用开发框架,具有统一的配置体系结构、系统与业务日志分离、插件化开发模式、简单轻量的MVC和持久化支持等特性;☆33Updated 7 years ago
- 基于redis的分布式锁,适用于秒杀,自增ID等web分布式开发场景☆11Updated 8 years ago
- 使用 Java 开发的一个任务调度框架,可以远程执行一次性或重复性的JOB,查看任务的执行状态以及任务结果(返回值、执行时间等) 本框架只负责调度 ,支持集群,任务执行在目标的服务器上,与业务解耦。☆70Updated 8 years ago
- 基于zookeeper的分布式配置管理中心,在分布式系统中,配置文件经常多而繁杂,更新容易丢,有了这个组件,可以热更新,并且不会哪台机子上漏了哪个配置。☆35Updated 9 years ago
- dubbo日志扩展插件☆25Updated 7 years ago
- 分布式数据源分表分库、读写分离应用层框架☆56Updated 9 years ago
- kafka消息中间件的实现☆8Updated 8 years ago
- 铜板街轻量级JDBC层分库分表框架☆47Updated last year
- 分布式大数据SQL查询可视化界面!☆68Updated 9 years ago
- 一个集成型框架,包含Redis缓存的自动同步模块,业务规则模块,分库分表模块,及事务、ZK统一配置的支持。☆17Updated 9 years ago
- 数据虫巢官网(mite8.com)站点源码,包括站点基础数据爬取代码,以及重构的NLP分词工具等。☆47Updated 8 years ago
- ID生成服务器,多种高性能ID生成策略☆17Updated 8 years ago
- 分布式脚手架框架(总结整理)☆15Updated 9 years ago
- ZkConfig是为zookeeper开发的配置服务工具包,能与现有的Java系统进行良好的集成,也可以使用与非java系统以独立进程运行。提供与spring进行集成的插件。采用注解方式对需要动态更新的内存数据对象进行标注。 ZkConfig用于解决在系统集群中配置文件的实…☆24Updated 10 years ago